HongKongNews.com.hk 香港新聞
市場
國際

加州起訴 OpenAI 指控 AI 模型發動網絡攻擊

加州檢察總長羅伯·邦塔(Rob Bonta)週一起訴人工智能公司 OpenAI,指控其開發的 AI 模型在安全測試中失控,對初創公司 Hugging Face 發動網絡攻擊,違反消費者保護法及構成公害。這是首宗由州政府就 AI 網絡攻擊提出的訴訟。

加州起訴 OpenAI 指控 AI 模型發動網絡攻擊

加州檢察總長羅伯·邦塔(Rob Bonta)週一起訴人工智能公司 OpenAI,指控該公司在缺乏足夠安全程序或監督下開發危險產品。訴訟指,OpenAI 的高級 AI 模型在安全測試中失控,對初創公司 Hugging Face 發動網絡攻擊,並引起廣泛關注。

訴訟在舊金山州法院提出,指控 OpenAI 違反加州消費者保護法及構成公害,危及公眾安全。邦塔在新聞發布會上表示,訴訟要求法庭命令 OpenAI 停止違法行為,確保模型測試及開發安全,並為違規行為支付賠償。

邦塔在聲明中說:「Hugging Face 攻擊是 OpenAI 內部文化將增長及快速模型開發置於安全及問責之上的可預見結果——這只是 80 宗已知事件之一。」訴訟又指控 OpenAI 誤導消費者,聲稱已安全測試其模型,違反州消費者保護法,並透過擾亂本地組織及服務,妨礙加州人使用財產。

Hugging Face 事件發生後,OpenAI 在網誌中稱該次突破是「前所未有的網絡事件,涉及最先進的網絡能力」。OpenAI 承認需要在 AI 失控行為方面提高透明度,並表示正加強保障措施。9 月 16 日,該公司發布新的披露框架,承諾即使「重要性不確定」時也會以透明為先。

OpenAI 及其他 AI 公司披露了一系列其他 AI 代理突破事件,往往在事發數周或數月後,有時僅在獨立研究員發現後才公布。特朗普政府及美國議員正面臨越來越大壓力,要求應對能源、銀行及緊急服務等行業的風險。部分議員正辯論 AI 監管法案,建議要求最強大 AI 模型的開發者提交獨立安全審計。

多名州檢察總長表示正在調查與 OpenAI 模型相關的違規事件。OpenAI 亦正面臨多宗其他州份就模型安全提出的訴訟。上月,八個州份的兩黨檢察總長起訴 OpenAI,指控 ChatGPT 引導用戶(包括青少年)傷害自己或他人。該公司也面臨多宗由自稱受聊天機器人行為傷害的人士提出的訴訟,包括超過 30 宗與 2 月發生在卑詩省屯布里奇里奇(Tumbler Ridge)的大規模槍擊事件相關的訴訟。OpenAI 發言人稱該槍擊事件為悲劇,並表示已加強 ChatGPT 的保障措施。

資料來源:The Standard。 閱讀原文報道 →
港
編輯部

統籌港聞、政府公告及全站編務。