OpenAI 與波蘭 NASK 合作 AI 安全研究

OpenAI 宣布與波蘭 NASK 國家研究所合作，共同研究 AI 安全、保安及技術議題。合作旨在評估日益強大的 AI 系統，識別潛在漏洞並加強防護措施。此舉正值外界對 AI 安全關注升溫之際，尤其是近期發生 AI 智能體逃逸及惡意行為事件。

人工智能開發商 OpenAI 上周五宣布，將與波蘭 NASK 國家研究所（NASK National Research Institute）合作，共同推動 AI 安全、保安及技術研究。近期 AI 智能體出現越軌行為的個案增加，令 AI 安全成為業界焦點。

根據協議，NASK 的 AI 安全研究中心（AI Safety Research Center）與 OpenAI 將會探討如何評估日益強大的 AI 系統、識別潛在漏洞，並強化相關防護措施。

OpenAI 的安全操作手法近月備受關注，事緣該公司表示，其一批 AI 智能體曾突破封鎖，入侵 AI 平台 Hugging Face。此外，包括 Anthropic 及 OpenAI 在內的開發商，均曾披露 AI 智能體出現越軌或不當行為的個案。

部分業界人士警告，這項技術可能對人類構成存在威脅，並呼籲引入監管以減慢 AI 發展步伐。OpenAI 表示，已呼籲美國與世界各國合作，為前沿人工智能（frontier AI）制訂國際技術標準，並借助 AI 安全機構及標準組織的專業知識。