聯合國日內瓦會議探討規管殺手機械人

致命自主武器系統（LAWS）正以人工智能驅動，即將改變戰爭形態，惟目前缺乏監管框架。聯合國秘書長古特雷斯及紅十字國際委員會主席斯波利亞里奇警告，人類正接近「道德紅線」。週一起於日內瓦舉行的會議將討論如何設立限制及禁令。

致命自主武器系統（LAWS）正以人工智能驅動，即將徹底改變戰爭形態，但目前仍欠缺適當的監管或法律框架。聯合國於日內瓦召開的《常規武器公約》（CCW）會議將於週一展開，與會者將討論如何對這類俗稱「殺手機械人」的武器設立限制及禁令。

然而，有分析家質疑，會議的討論步伐能否跟上這項技術的急速演變。法新社在會前整理了三項關鍵問題，包括自主武器的定義、道德爭議，以及情況變化的速度。

日內瓦安全政策中心環球及新興風險主管里克利指出，致命自主武器系統可在沒有人類操作員介入的情況下，自行識別、選取及攻擊目標。法國國際關係研究所地緣政治科技中心專家德魯西—羅什貢德則表示，自主武器並非新事物，例如地雷便是一種自主武器——當有人踏中便會引爆。

但隨著人工智能強化無人機的普及，這類武器如今能夠「選取及攻擊非預設目標，並在無人干預下適應環境」。因此，監管者面對的核心問題，在於決定人類在動用此類武器時應有的控制程度。美國主張使用自主武器時須有「適當的人類判斷」，法國則堅持人類必須留在決策圈內，並禁止致命自主武器系統，但容許「部分自主」系統。

聯合國秘書長古特雷斯與紅十字國際委員會主席斯波利亞里奇，今年八月發表聯合聲明警告：「我們現正危險地接近跨越一條道德紅線：由機械自主鎖定人類目標。」但分析家指出，日內瓦的討論雖然重要，卻只觸及問題的一部分。隨著人工智能在分析及目標鎖定上的應用日益增加，人類角色正在縮減。

里克利認為，日內瓦的議程「非常狹窄」，未能涵蓋人工智能在戰場上的所有問題。他舉例指，今年美國與以色列聯手對抗伊朗的戰爭中，美國曾每日鎖定多達一千個伊朗境內目標。德魯西—羅什貢德亦質疑，需要何種人類監督，才能確保操作員真正行使自身判斷，而非僅為機器的建議背書。

自主武器的發展正在加速。法國海軍少將塞巴斯蒂安警告，自主能力很快會成為戰場現實。人工智能公司Anthropic負責人阿莫德伊今年警告，前沿人工智能系統尚未可靠到足以支撐完全自主的武器。但大國之間的軍事競爭提供了強大誘因，中國國防部今年一月更將自主無人機群形容為「戰爭的新面貌」。