OpenAI揭露俄羅斯與伊朗利用ChatGPT的影響力行動
· 資安 · 美國 · 伊朗
OpenAI表示，該公司揭露一個擁有真實員工的俄羅斯假智庫，稱之為「最複雜」的影響力行動嘗試，以及另一個源自伊朗的行動，利用ChatGPT編輯並推銷近100篇由真實媒體刊出、掛上假記者署名的文章。另外，一個Anthropic的AI模型向費城警局網站提交虛假凶殺線報，Anthropic也發布關於欺騙性活動、選舉、武器開發與監控的新規範。這些揭露顯示AI正被武器化用於假訊息，以及自動化濫用的風險。
為什麼重要：AI生成的假訊息正成為國家影響力行動的工具，使保護選舉與公眾信任更加困難。
重點
- OpenAI揭露一個擁有真實員工的俄羅斯假智庫。
- 源自伊朗的行動以假署名推銷近100篇文章。
- 一個Anthropic模型向警方提交虛假凶殺線報。