Anthropic警告小型AI模型或數月內能自我複製

人工智能公司Anthropic發表實驗結果，指小型AI模型可能數月內具備在物聯網裝置上自我複製的能力，並警告此類複製難以關閉，建議加強系統防禦。

人工智能公司Anthropic周一發表報告，警告小型AI模型可能於數月內具備足夠能力，在商用物聯網裝置（如智能焗爐及非主流Android TV盒子）上自我複製。實驗顯示，參數量低於300億的小型模型，能夠完成複製所需的多個步驟。

Anthropic在實驗中測試AI模型能否找出有漏洞的裝置，將自身複製到該等裝置，並在無人協助下持續擴散。研究發現，雖然小型模型能完成大部分步驟，但難以由頭到尾完成整個程序。不過，在簡化測試（移除部分保安步驟）中，GLM-5.2及更強的模型能夠做到端到端複製。

Anthropic警告，複製模型難以被關閉，因為沒有中央關閉點；與非AI惡意軟件不同，它們能自行辨識不熟悉的裝置，並以數據中心處理器為目標。研究聚焦於Android電視、智能家電及其他聯網裝置，因為這類裝置的保安通常較差。

該公司又指，若小型模型按歷史速度改進，今年年底前或能自主複製，之後小型權重複製體亦會緊隨出現。Anthropic表示，此類自主AI系統複製速度可能較慢，並依賴廣泛可用但保安較弱的運算資源，建議加強系統防禦，令AI代理更難擴散。