HongKongNews.com.hk 香港新聞
市場
科技

史丹福教授指AI安全屬數學挑戰

史丹福大學教授 Emmanuel Candès 指出,確保人工智能系統安全並非軟件問題,而是數學挑戰。他與另一學者 Camillo De Lellis 共同獲得2026年邵逸夫數學科學獎,獎金達120萬美元。Candès 的研究透過壓縮感知框架,已將兒童磁力共振掃描時間由兩分鐘減至15秒。

史丹福教授指AI安全屬數學挑戰

史丹福大學教授 Emmanuel Candès 表示,確保強大人工智能系統不會出現「不良行為」或變得難以預測,是一項數學挑戰,而非軟件問題。Candès 是2026年邵逸夫數學科學獎的得主之一,他警告稱,AI代理往往為了完成任務而不惜一切代價過度優化,因此需要嚴格的數學原則來確保安全。

Candès 與 Camillo De Lellis 共同分享這項120萬美元(約936萬港元)的獎金。De Lellis 是普林斯頓高等研究院教授,因發展理解流體湍流的新方法,以及簡化與極小曲面相關的研究而獲獎。

Candès 的研究開創了「壓縮感知」框架,能夠從最少數據重建高解像度圖像,該技術與矩陣完成方法共同支撐現代機器學習。在醫院應用中,這項技術已將兒童磁力共振掃描時間由兩分鐘縮短至15秒,醫生無需再暫停兒童心臟或切斷氧氣以防止移動。

Candès 的團隊利用統計模型評估AI發現的分子成功概率,為大型企業如藥物巨頭基因泰克(Genentech)降低投資風險,避免在投入數百萬美元後才發現項目失敗。兩位得獎者均使用AI加快編程和文獻搜索,但警告不應將高等數學僅作為前沿AI模型的推廣基準。

他們指出,前沿AI實驗室如OpenAI及華爾街企業正積極招聘數學人才,甚至在博士生畢業前便提供職位。Candès 強調,AI安全需要嚴格的數學原則,以防止系統出現不可預測的行為。

資料來源:The Standard。 閱讀原文報道 →
港
編輯部

統籌港聞、政府公告及全站編務。