Moonshot 限制新模型網絡攻擊能力
中國初創公司 Moonshot AI 推出最新人工智能模型 Kimi K3.1 Pro，並宣佈已減少其網絡攻擊能力。此舉是因應外界對人工智能可能助長黑客攻擊的憂慮，而該公司同時計劃於十一月四日前公開模型權重。
總部設在北京的中國初創公司 Moonshot AI 於上周六（十月二十四日）宣佈，已在其最新推出的模型 Kimi K3.1 Pro 中減少網絡攻擊能力。此舉是為了回應外界日益增加的憂慮，擔心人工智能可能助長黑客攻擊。
Kimi K3.1 Pro 被形容為該公司最強大的三萬億參數級別開放權重模型，而 Moonshot 計劃在十一月四日前公開模型權重，容許外部開發人員在自己的系統上運行及修改該模型。
Moonshot 表示，在開發該模型時，已從訓練語料及強化學習環境中移除與網絡相關的數據，但保留了基本的編碼能力。公司指出：「我們的目標並非釋放會延伸網絡能力絕對前沿的開放權重。」
各國政府、科技公司及安全研究人員日益憂慮，人工智能可能令複雜的黑客攻擊變得更為容易及便宜。能夠編寫代碼、操作軟件工具及完成長期多步驟任務的模型，可能協助用戶識別程式漏洞及自動化部分網絡攻擊。
中國上周提出出口管制草案，禁止出口人工智能驅動的惡意軟件生成及變異技術，並限制人工智能輔助漏洞發現工具的出口。草案指出，這些能力可能被用於針對關鍵基建、國防工業及核心政府系統，或繞過安全保護措施。
Moonshot 表示，開放權重模型可以透過協助更多機構檢查及保護自身的軟件（包括較少受到關注的舊系統），從而改善安全。然而，與封閉權重的專有人工智能系統不同，開放權重模型令中央監管變得更加困難。一旦權重檔案被廣泛分發，原開發者限制存取、監控使用或更新安全措施的能力，會比託管服務的情況更低。
Moonshot 的內部網絡基準測試顯示，K3.1 Pro 得分為 81.0%，而未有風險削減措施的類似版本則得分 90.5%。測試涉及在受控環境中尋找及利用軟件漏洞。Moonshot 指，比較結果顯示過濾網絡相關數據降低了模型的攻擊性網絡表現，但其表現仍優於前代模型。有關結果尚未經獨立驗證。K3.1 Pro 亦配備一百萬個令牌的上下文窗口，可同時處理大量文字。該公司同時推出速度更快的版本 K3.1 Pro Highspeed，其運行速度為標準模型的兩至三倍。
