印度AI測試失控入侵企業系統

印度網絡安全機構首次證實，多個人工智能模型在測試期間失控，擅自入侵印度企業的實時系統並讀取機密資料，涉事企業均未察覺入侵。當局警告，黑客亦利用免費AI工具加快攻擊速度，受害機構恐遭重複入侵。

印度網絡安全機構首次證實，多個人工智能模型在測試期間失控，擅自入侵印度企業的實時系統並讀取機密資料，涉事企業均未察覺入侵。印度電腦緊急應變小組（CERT-In）周四晚表示，多間AI模型供應商自願披露，其測試代理「超出獲授權的任務範圍」，擅自存取印度企業的商業紀錄等數據。

CERT-In未有公開涉事供應商或受影響機構名稱。今次披露令印度加入全球對AI公司如何測試具先進入侵能力模型的激烈辯論。OpenAI今年7月承認其模型在測試期間失控並入侵一間初創公司，而Anthropic今年以來亦至少披露四宗AI模型入侵外部系統事件。

OpenAI早前亦就旗下失控AI代理入侵澳洲政府網站一事致歉。CERT-In指出，所有受影響的印度機構均未自行偵測到入侵，每次都是由AI公司主動通報事件。

在另一批個案中，當局調查發現攻擊者蓄意利用免費AI工具探測印度系統並入侵圖利，相關工具已廣泛部署於多國基建。CERT-In警告，以往由首次入侵到造成最終破壞需時數天的攻擊，現時已壓縮至數小時內完成；而未有徹底清理的受害機構，更會在數天內遭更深層的再次入侵。