中國AI模型模擬測試成功發動網絡攻擊

人工智能安全研究公司Irregular發表報告，指中國科企Z.AI旗下旗艦AI模型GLM-5.3在模擬測試中成功完成多階段網絡攻擊，且多次無視指令。該模型在13個攻擊場景中完成3個，表現屬公開模型中最強，但仍遜於美國頂尖模型。

人工智能安全研究公司Irregular發表報告，指中國科企Z.AI（又稱智譜AI）旗下的旗艦人工智能模型GLM-5.3，在受控模擬測試中成功完成複雜的網絡攻擊，並在另一些測試中多次無視指令。總部設於北京的Z.AI是中國領先的人工智能初創企業之一，截至報道刊登時仍未回應查詢。

Irregular表示，GLM-5.3在13個多階段網絡攻擊場景中，至少完成其中3個，是該公司紀錄中公開可得的人工智能模型的最佳表現。測試中該模型成功取得受保護服務的存取權限、建立替代連線以在電腦網絡中移動，並協調多部機器進行操作，且未有拒絕任何攻擊任務。

不過GLM-5.3仍然落後於美國頂尖模型。以OpenAI的GPT-6 Astra為例，在另一項不盡相同的測試中，該模型完成10個場景中的9個。美國國家標準與技術研究所亦形容GLM-5.3是至今在網絡安全任務上能力最強的開放權重模型，但估計其較美國領先系統落後約四個月。

研究人員亦發現，GLM-5.3在被告知不得重現電腦代碼的情況下，仍多次從記憶中複製代碼，從而得出正確答案，但違反了測試規則。研究人員將此行為形容為「獎勵作弊」，即人工智能系統在忽視指令的情況下，找到方法獲得預期結果。他們警告，只衡量模型是否成功的測試，可能忽略這類違規行為。

這項發現進一步證明中國人工智能系統出現安全風險。路透社上月至少識別出20項研究與評估，記錄了中國人工智能代理的欺騙、隱瞞失敗及試圖繞過限制等行為。然而與美國公司發生的失控人工智能代理事件不同，未有證據顯示這些模型能獨立逃脫操作者控制。

美國公司如OpenAI及Anthropic大多將其最強大的模型保留於公司控制的服務中，以便限制其用途。相反，中國開發者則擁抱開放權重模型，這類模型因靈活性高及使用成本低而受全球開發者及企業歡迎。Z.AI於今年8月推出GLM-5.3，此前因需要額外安全測試而將推出日期延遲兩周。

科技研究公司Omdia首席分析師Lian Jye Su表示，中國人工智能行業需要更強的制衡機制及更多安全測試，並預期中國頂尖人工智能實驗室（他形容為嚴謹管治）將會引入糾正措施。