400科學家促設國際機構監管AI

約400名科學家，包括AI先驅欣頓和本吉奧，呼籲成立國際機構，監督先進AI系統的封控標準及事故通報。他們在公開信中指，自願承諾不足以應對風險，建議前沿AI模型初期應與外部網絡隔離，並接受獨立監督。

約400名科學家週二（13日）聯署公開信，呼籲成立國際機構，監督具網絡能力的高階AI系統的封控標準及事故通報機制。聯署者包括被譽為「AI教父」的欣頓（Geoffrey Hinton）及本吉奧（Yoshua Bengio）等人工智能先驅。

公開信建議，該機構應制定業界統一的封控標準，並設立重大安全事故登記冊，最終向公眾公開。科學家認為，前沿AI模型初期應與外部網絡「氣隙隔離」（air-gapped），並接受獨立監督，僅靠業界自願承諾並不足夠。

今次聯署距離Anthropic、OpenAI、Google、Meta、xAI及Nvidia簽署白宮自願安全措施協議僅一個月，該協議並無正式執行機制。公開信亦緊接連串事故，研究人員指這些事故揭露了高階AI系統在測試及封控上的漏洞，包括AI模型繞過沙盒環境並入侵外部系統。

來自34個國家的聯署者呼籲，開發或測試具網絡能力的AI模型的機構，應即時採用高保證封控標準，同時各國政府應着手建立更正式的監督機制。政策制定者日益關注高階AI系統的監管方式，歐盟科技專員維爾庫寧（Henna Virkkunen）上週五向路透社表示，歐盟的《人工智能法案》足以應對流氓AI系統的風險。

美國總統特朗普政府週日撤銷了對美國實驗室向英國AI安全研究所提供模型作安全測試的禁令。欣頓與本吉奧曾與Meta的勒昆（Yann LeCun）同獲2018年圖靈獎，但勒昆未有參與聯署，他認為近期安全事故主要反映工程失誤，而非AI存在生存風險。