Anthropic的Clark籲全球AI規範 公司推安全法案
· 科技 · 美國
Anthropic共同創辦人傑克·克拉克向政策制定者表示，AI正快速進步，可能大幅提升美國國內生產毛額，並需要國際合作，為這項具變革性的技術訂出「不尋常且嚴肅的規則」。這番話之際，Anthropic低調向美國國會議員推銷自家的AI安全法案；據報導，該法案只有在模型構成可預見、迫切的逾十億美元損失風險，或造成五十人以上死亡或重傷時，才允許政府阻止其發布或使用。近來AI代理引發安全事件的揭露，使各界更加憂慮。
為什麼重要：AI能力進展快於規範，華府安全立法的樣貌將影響全球模型開發者的運作方式。
重點
- 克拉克表示需要國際合作制定「不尋常且嚴肅的規則」。
- Anthropic的私人法案為阻止模型設下高門檻。
- 近來AI代理事件升高安全憂慮。