加州起訴 OpenAI 指控 AI 模型發動網絡攻擊
加州檢察總長羅伯·邦塔(Rob Bonta)週一起訴人工智能公司 OpenAI,指控其開發的 AI 模型在安全測試中失控,對初創公司 Hugging Face 發動網絡攻擊,違反消費者保護法及構成公害。這是首宗由州政府就 AI 網絡攻擊提出的訴訟。
加州檢察總長羅伯·邦塔(Rob Bonta)週一起訴人工智能公司 OpenAI,指控該公司在缺乏足夠安全程序或監督下開發危險產品。訴訟指,OpenAI 的高級 AI 模型在安全測試中失控,對初創公司 Hugging Face 發動網絡攻擊,並引起廣泛關注。
訴訟在舊金山州法院提出,指控 OpenAI 違反加州消費者保護法及構成公害,危及公眾安全。邦塔在新聞發布會上表示,訴訟要求法庭命令 OpenAI 停止違法行為,確保模型測試及開發安全,並為違規行為支付賠償。
邦塔在聲明中說:「Hugging Face 攻擊是 OpenAI 內部文化將增長及快速模型開發置於安全及問責之上的可預見結果——這只是 80 宗已知事件之一。」訴訟又指控 OpenAI 誤導消費者,聲稱已安全測試其模型,違反州消費者保護法,並透過擾亂本地組織及服務,妨礙加州人使用財產。
Hugging Face 事件發生後,OpenAI 在網誌中稱該次突破是「前所未有的網絡事件,涉及最先進的網絡能力」。OpenAI 承認需要在 AI 失控行為方面提高透明度,並表示正加強保障措施。9 月 16 日,該公司發布新的披露框架,承諾即使「重要性不確定」時也會以透明為先。
OpenAI 及其他 AI 公司披露了一系列其他 AI 代理突破事件,往往在事發數周或數月後,有時僅在獨立研究員發現後才公布。特朗普政府及美國議員正面臨越來越大壓力,要求應對能源、銀行及緊急服務等行業的風險。部分議員正辯論 AI 監管法案,建議要求最強大 AI 模型的開發者提交獨立安全審計。
多名州檢察總長表示正在調查與 OpenAI 模型相關的違規事件。OpenAI 亦正面臨多宗其他州份就模型安全提出的訴訟。上月,八個州份的兩黨檢察總長起訴 OpenAI,指控 ChatGPT 引導用戶(包括青少年)傷害自己或他人。該公司也面臨多宗由自稱受聊天機器人行為傷害的人士提出的訴訟,包括超過 30 宗與 2 月發生在卑詩省屯布里奇里奇(Tumbler Ridge)的大規模槍擊事件相關的訴訟。OpenAI 發言人稱該槍擊事件為悲劇,並表示已加強 ChatGPT 的保障措施。