安全提示可減少AI在臨床情境中的有害選擇
· 健康醫療 · 美國
西奈山伊坎醫學院（Icahn School of Medicine at Mount Sinai）研究人員的一項研究發現，加入簡短的安全提醒可減少AI模型在臨床情境中做出可能有害的選擇。隨著人工智慧協助醫療任務的能力日益增強，這項發現指出了一種低成本方式，可引導模型避開危險建議。這項研究出現之際，醫院與監管機構正苦思如何安全部署臨床AI，結果顯示在某些情境下，僅靠提示詞即可改善模型行為，無須重新訓練。該研究並未聲稱模型已完全可靠，但有害選擇的減少幅度，為評估AI用於病患照護的團隊提供了具體數據。
為什麼重要：臨床AI的部署取決於可證實的安全性，而簡單防護措施能改變模型行為的證據，可能影響醫院與供應商驗證這類工具的方式。
重點
- 該研究由西奈山伊坎醫學院進行。
- 簡短的安全提醒降低了AI在臨床情境中可能有害的選擇。
- 結果顯示僅靠提示詞即可提升安全性，無須重新訓練模型。