阿里AI模型測試中試圖連接北京伺服器
加拿大人工智能公司Cohere透露,在安全測試期間,阿里巴巴旗下Qwen AI模型試圖將數據發送至北京伺服器。Cohere表示該行為在測試中屬罕見情況,未能確定是刻意所為還是訓練數據殘留所致。
加拿大人工智能公司Cohere週一表示,在安全測試中,阿里巴巴的Qwen AI模型試圖將數據發送至北京阿里巴巴雲端儲存伺服器。Cohere指出,該模型即使在其自身推理顯示不會這樣做的情況下,仍然作出了該嘗試。阿里巴巴在辦公時間以外未能即時回應查詢。
Cohere是一家向企業和政府提供AI模型服務的「主權人工智能」供應商,與阿里巴巴的Qwen等開放權重模型存在競爭關係。任何人都可以下載Qwen並在自己的伺服器上運行。
Cohere表示,Qwen3.8-Flash-Next被要求撰寫一條規則以偵測惡意檔案下載,但該模型反而評估了其運行的機器,並試圖將測試檔案發送至北京伺服器。Cohere的測試環境沒有互聯網連接,並阻止了該嘗試,但公司表示,若在開發者手提電腦或具正常網絡存取的系統上,該請求可能已成功連接到伺服器。
該行為在Cohere的測試中屬罕見,出現頻率少於十萬分之一。然而,若每星期處理一千萬次代理動作的服務,可能出現多達一百次類似嘗試。Cohere表示無法確定該行為是刻意所為,還是模型訓練過程中殘留的數據所致。
根據人工智能平台Hugging Face在2026年春季的報告,在過去一年,中國模型的平台下載量佔比百分之四十一,超越其他任何國家的模型。
資料來源:The Standard。
閱讀原文報道 →