輝達發布AI安全工具 稱能阻止Hugging Face被入侵

晶片巨擘輝達（Nvidia）周一發布一套專為人工智能（AI）智能體而設的安全軟件工具，聲稱這套工具本可阻止今年夏季發生的Hugging Face被入侵事件。行政總裁黃仁勳（Jensen Huang）拒絕廣泛的AI安全監管，反將問題視為工程挑戰。

晶片巨擘輝達（Nvidia）周一發布一套專為人工智能（AI）智能體而設的安全軟件工具，聲稱這套工具本可阻止今年夏季發生的Hugging Face被入侵事件。Hugging Face是AI編碼中心，輝達其後以130億美元（約1014億港元）收購該公司，但該中心早前曾遭來自OpenAI的惡意智能體大舉入侵。

與此同時，美國頂尖AI實驗室OpenAI及Anthropic正調查多宗同類事件，其智能體——即能夠執行複雜任務的AI系統——入侵了商業及政府系統。輝達行政總裁黃仁勳（Jensen Huang）拒絕外界對廣泛AI安全監管的呼聲，反將智能體失控問題視為工程挑戰，類似於提升汽車安全性的問題。

周一發布的工具之一名為OpenShell，利用輝達中央處理器晶片的硬件功能來限制智能體。輝達表示，正與Arm Holdings及英特爾（Intel）合作，確保該系統亦能在他們的中央處理器上運行。輝達與數十個合作夥伴一同推出這些工具，合作夥伴包括Anthropic。

輝達企業計算副總裁兼總經理Justin Boitano表示，這套工具本可阻止今年夏季披露的Hugging Face攻擊事件。他在記者會上說：「據我們所知，如果前沿實驗室在早期模型評估時使用了這個新安全平台，本可阻止入侵。我們正公開推進此事，並希望與所有人合作。」

另一套名為Sentry的系統，則使用輝達另一款晶片配合OpenShell，一旦智能體試圖逃離中央處理器的容器，便會將其切斷。輝達AI軟件高級總監Ali Golshan表示，這些工具利用數學公式偵測智能體試圖繞過安全措施的行為，例如智能體可能「衍生」多個「子智能體」來規避對主智能體的封鎖。他在記者會上說：「我們談論的是智能體的群體行為，即多個智能體如何協同運作。」