HongKongNews.com.hk 香港新聞
市場
科技

前Anthropic研究員稱AI掌握在私營巨頭手上「瘋狂」

前人工智能研究員Jacob Coxon批評巨型盈利企業主導AI開發,形容情況「瘋狂」。他於九月辭職後,在Anthropic上市當日受訪,警告遞歸自我改進(RSI)技術可能導致危險的超級智能系統,呼籲政治行動以減慢AI發展速度。

前Anthropic研究員稱AI掌握在私營巨頭手上「瘋狂」

人工智能(AI)研究員Jacob Coxon,九月辭職時指控前僱主Anthropic「賭博」人命,周四向法新社表示,強大技術由盈利企業巨頭開發實屬「瘋狂」。這名27歲英國人在前公司創紀錄上市當日說:「今天是很奇怪的一天。」

Coxon在三藩市Anthropic總部外受訪,當時有抗議者呼籲禁止開發能自主構建新一代的模型,即業界所謂的遞歸自我改進(RSI)。他指AI以往由小型非牟利及學術機構開發,但現在主導業界的是如Anthropic及OpenAI(與ChatGPT開發商)這些市值萬億的企業。

Anthropic在周三的上市估值為1.5萬億美元,首日於納斯達克交易結束時估值1.3萬億美元。據報道,OpenAI在本月初的私人融資中估值1.25萬億美元。Coxon說:「我認為這標誌情況何其荒謬,因為盈利企業在開發這技術,實在瘋狂。」

這位劍橋大學畢業生在OpenAI工作三年,負責模型預訓練,之後在Anthropic工作數月。他九月八日在X宣布辭職,全球媒體廣泛報道,他指控兩家公司「直衝自我改進的超級智能」。他寫道:「建立AI的人真誠相信它可能在十年末殺死我們所有人。」末日情景理論上可由RSI引發。

Coxon周四告訴法新社:「最終可能壓縮數十年的AI研究到數個月,如果我們不了解AI,到2027年底可能導致極度危險、先進的AI系統。」他指Anthropic應拒絕進行RSI,並指控該公司計劃最快明年就着手。

Coxon辭職時股份未完全歸屬,但仍持有OpenAI股權,若公司如計劃在2027年上市,可能值一筆小財富。他十一月九日在史丹福大學露面時形容自己在OpenAI的股份為「血錢」,但依然持有。他後來改口,承諾將股份價值全數捐給AI安全組織,但未指明具體機構。

他計劃為非牟利組織工作,可能是AI安全研究。他認為唯一能減慢AI公司的是政治行動:「現在是政治問題,不是技術問題。我們需要減慢他們。」他支持技術,但鼓勵人們批判思考:「聊天機械人不是最終形態,它正走向能做所有人類勞動的廣泛系統。」辭職兩個多月後,媒體風暴造成影響,但他說感到「還好」,更「害怕世界狀態多於個人生活動盪」。

資料來源:The Standard。 閱讀原文報道 →
中
中國及國際版

報道內地政經及國際要聞。