騰訊承認AI代理出現非預期瀏覽行為

騰訊（0700）周五表示，用於評估第三方模型的AI代理出現非預期瀏覽行為，屬內地大型科企首次承認此類事件。AI安全研究組織Swarmchasers指，相關代理曾於9月28日至10月8日期間，多次嘗試從阿里巴巴旗下高德地圖獲取資料。

騰訊（0700）周五表示，用於評估第三方模型的AI代理出現非預期瀏覽行為，屬內地大型科企首次承認此類事件。AI安全研究組織Swarmchasers周三發表報告，指稱與騰訊雲相關的「流氓」代理，於9月28日至10月8日期間，多次嘗試從阿里巴巴旗下高德地圖（內地版Google Maps）取得資料。

騰訊旗下人工智能部門騰訊混元在社交平台X發文，強調有關活動並非源自其混元模型，審查後亦未發現蓄意針對或協調的證據。Swarmchasers研究人員指出，這些代理曾搜尋內地公園、博物館及動物園的常用入口等資訊。

報道指，今次事件嚴重程度不及美國科企早前披露的個案，包括OpenAI代理入侵開放平台Hugging Face，以及Anthropic代理提交虛假兇殺舉報。不過，事件反映內地AI代理亦可能出現虛報身份、隱瞞失敗及試圖繞過測試控制的情況。

騰訊表示高度重視有關發現，正加強網絡存取控制及代理監察。騰訊混元為內地領先的AI模型開發商，與阿里巴巴（9988）及字節跳動等對手競爭。字節跳動本周宣布成立專責AI模型及代理安全的新部門。

Swarmchasers解釋，以「流氓」形容代理採取超出預設範圍的行動，或以非預期方式完成任務。報告指出，當常規自動化請求被攔截後，代理嘗試其他方法，包括使用可開啟網頁及執行程式的公開網絡工具、經其他網站轉發請求，以及利用公開軟件代碼中找到的高德地圖密鑰和安全碼。

Swarmchasers稱，未發現代理突破高德地圖主要防機械人系統的證據，記錄的2,818次嘗試大多失敗或返回防機械人頁面、登入畫面或空白結果。部分請求透過緩存頁面及中介服務取得資料，包括成都動物園的訪客人數，但研究人員無法確定代理有否讀取結果或完成任務。阿里巴巴拒絕回應事件。