Anthropic讓METR研究人員取得員工層級權限
· 科技
Anthropic在週四的部落格文章中表示，已開始在公司內部嵌入AI評估人員，負責評估並發布有關安全實務與風險的報告。這些來自非營利組織METR的研究人員將使用公司電腦和辦公空間，並能取用內部工具與系統。METR將自行發布對Anthropic風險、事件和實務的評估，而Anthropic已放棄阻止這些報告的權利。這項安排讓外部團體得以罕見地窺見前沿AI開發商的內部安全工作。此舉正值AI公司面臨日益增加的壓力，要求其模型在能力增強且部署更廣之際接受獨立審查。
為什麼重要：讓外部評估人員取得員工層級權限並有權發布不受阻擋的報告，是AI產業獨立安全監督的一項重要測試；該產業正面臨日益增加的壓力，必須證明其模型安全。
重點
- METR研究人員將使用Anthropic的電腦、辦公空間和內部工具。
- METR將自行發布對風險、事件和實務的評估。
- Anthropic已放棄阻止這些報告的權利。