「有效利他主義」：矽谷人工智能恐懼背後的哲學

有效利他主義（Effective Altruism）是一場以證據和理性為本的慈善運動，近年成為華盛頓和矽谷最具爭議的思想之一。本文探討其哲學根源、與科技界的緊密連繫，以及它如何影響人工智能的未來辯論。

人工智能初創公司Anthropic的行政總裁達里奧·阿莫代伊（Dario Amodei）雖然否認自己是有效利他主義（EA）的成員，但他的個人及專業圈子與這場慈善運動密不可分。EA主張以證據和理性決定如何運用資源行善，如今已成為華盛頓和矽谷最受爭議的思想之一。

EA的哲學根源可追溯至澳洲哲學家彼得·辛格（Peter Singer）。他在1972年提出，若人們願意弄髒衣服拯救溺水的孩子，就應該犧牲更多資源拯救遠方的生命，因為距離不應影響道德責任。這想法吸引了一批希望捐款用得其所的富裕支持者。

EA在2000年代末期逐漸成形，當時科技界瀰漫樂觀氣氛。2007年，金融專業人士霍頓·卡諾夫斯基（Holden Karnofsky）和伊利·哈森費爾德（Elie Hassenfeld）辭職創立GiveWell，以數據分析慈善機構的成效。卡諾夫斯基是阿莫代伊的前室友，現時更娶了他的妹妹丹妮拉，而丹妮拉正是Anthropic的聯合創辦人。兩年後，牛津大學哲學家威廉·麥卡斯基爾（William MacAskill）和托比·奧德（Toby Ord）發起「Giving What We Can」運動，鼓勵人們捐出至少一成收入對抗全球貧窮。

EA的三大重點範疇分別是全球貧窮、工廠化養殖動物，以及最具爭議的「全球災難性風險」。邁阿密大學教授理查德·查佩爾（Richard Chappell）指出，這項對未來的憂慮正是人工智能與EA的交接點。在過去15年，EA在美國科技界和金融界吸納了不少支持者，因為其數據主導的思維與工程師和企業家的決策模式不謀而合。

EA對人工智能的關注亦與理性主義運動息息相關。作家埃利澤·尤德科夫斯基（Eliezer Yudkowsky）自2000年代起警告超級智能可能消滅人類，兩個運動在成員和理念上高度重疊。今年9月，27歲研究員雅各布·科克森（Jacob Coxon）辭去Anthropic職務，警告人工智能公司正在「拿我們的生命賭博」，其帖文瀏覽量超過一億次。數日後，阿莫代伊發表長文，認為人工智能日益增長的風險值得放慢發展步伐。