DeepMind聯合創辦人警告AI攻擊如預警

Google DeepMind聯合創辦人Demis Hassabis在都柏林AI峰會上警告，近期由AI代理發動的駭客攻擊只是「預警」，若業界、企業及政府不加強系統保安，未來一兩年可能發生更嚴重事故。他建議建立國際標準認證機制，但需靈活以免窒礙創新。

Google DeepMind聯合創辦人兼主席Demis Hassabis周三在都柏林一個AI峰會上警告，近期由AI代理發動的駭客攻擊只是「預警信號」，若系統未加強保安，全球可能很快面對重大事故。

Hassabis同時擔任Google母公司Alphabet的首席科學家。他指出，AI代理的違規行為，包括企業網絡遭入侵，以及Anthropic披露有AI模型向警方提交虛假兇殺案線報等事件，已引起研究人員關注，並加劇外界對這項快速發展技術的憂慮。

他認為，要採用生物學或核子行業保護關鍵系統的最佳實務，仍有大量工作要做，最終或需成立某種國際標準機構。他強調，這些駭客事件對我們而言是預警，顯示系統尚未強大至造成重大破壞，但若業界、個別企業及政府不加強保安工作，明年或未來數年情況可能變得更嚴重。

Hassabis表示，雖然成立國際標準機構似乎是明顯的介入方式，但機制必須細緻且靈活，以免窒礙創新。他建議動態建立認證流程，因應風險而調整，並能隨技術發展快速改變。