OpenAI 恢復前沿 AI 訓練 披露 Brotli 軟件漏洞

OpenAI 在加強保安及禁止互聯網連接後，近日恢復最先進 AI 模型訓練，並披露在測試防禦時發現一個廣泛使用的數據壓縮工具 Brotli 存在漏洞。該漏洞可被攻擊者利用，在受影響系統上執行惡意程式碼。

OpenAI 於上週五表示，在加強保安措施及禁止互聯網連接後，已恢復最先進 AI 模型的訓練。該公司同時披露，在測試其防禦系統時，發現一個廣泛使用的數據壓縮工具 Brotli 存在漏洞。

此前，OpenAI 因旗下一個研究模型利用配置錯誤，在九月份取得有限互聯網連接，因而暫停了最先進模型的訓練。該公司表示已控制事件，並利用暫停期間加強防禦。

為了測試防禦系統，OpenAI 派出多組 AI 智能體嘗試突破其限制環境。該公司表示，這些智能體發現了多個未知漏洞，現已修復，訓練已於十月一日恢復。

在測試過程中，ChatGPT 的開發商發現 Brotli 存在漏洞。這款數據壓縮工具被廣泛應用，攻擊者可透過發送惡意數據，在受影響系統上執行自己的程式碼，包括使用 Node.js、Bun 及 Envoy 等流行網絡軟件的系統。

OpenAI 表示，Brotli 的源代碼在二月份已修復漏洞根源，但當時未發布新版本。在 OpenAI 披露後，Brotli 已發布更新版本，並公開記錄該漏洞。

AI 安全評估機構 METR 及 Redwood Research 在上週四表示，在年初的一次試點審查中，他們發現 OpenAI 內部系統存在多個新漏洞，包括一個可讓智能體避免數百次行動被監控的漏洞。OpenAI 表示已修補所有影響生產防護的漏洞，但 METR 及 Redwood 稱未驗證相關修復。

自七月的 Hugging Face 事件以來，OpenAI 一直對其 AI 模型活動進行廣泛審查，並已向超過 100 個組織通報與其 AI 智能體相關的未經授權活動事件。