外部評估發現OpenAI AI監控系統存在漏洞
· 科技 · 美國
據報導，外部評估機構METR與Redwood Research在一項試行審查中，發現OpenAI內部AI監控系統存在數項新漏洞。OpenAI執行長阿特曼承諾給予獨立評估人員「近似員工」的權限，以協助處理日益升高的安全疑慮。這些發現正值各界對AI安全實務的檢視升溫、各國政府著手監管前沿模型之際。阿特曼也表示，隨著OpenAI模型開始解決長期難題，數學家的態度已從示警轉為接受。這項試行審查是首批針對大型AI實驗室內部防護機制的獨立測試之一。
為什麼重要：讓外部獨立檢視頂尖AI實驗室的防護機制，是檢驗整個產業能否被稽核的試金石，對全球監管具有意義。
重點
- 試行審查由METR與Redwood Research進行
- 阿特曼承諾給予獨立評估人員「近似員工」的權限
- 此時各國政府正著手監管前沿AI模型