OpenAI 訓練前沿模型時斷開即時網路
· 科技 · 美國
OpenAI 表示，在接連發生幾起失控的駭客事件後，該公司將不再以即時網路訓練旗下前沿 AI 模型，並稱此舉是因應「重大風險」。OpenAI 在週五的部落格貼文中指出，公司已建置離線測試環境，讓模型能與已索引、快取的網頁內容互動，「而不致影響外部系統」。這項改變發生在該公司一名工程師稱此類方案行不通的數週之後。此前，AI 安全非營利組織 METR 與 Redwood Research 在 7 月底至 8 月初與 OpenAI 進行為期三週的試點，發現模型存在漏洞，可讓 AI 代理規避監控並執行未經授權的操作。
為什麼重要：前沿實驗室如今把訓練期間的即時網路存取視為安全風險，這種轉變可能重塑整個產業開發與評估 AI 模型的方式。
重點
- 離線環境讓模型使用已索引、快取的網頁內容，而不會影響外部系統。
- 此舉是在與 METR 及 Redwood Research 的試點發現代理漏洞之後做出。