Anthropic聘Accenture進行內部AI安全評估
人工智能公司Anthropic宣布與顧問巨頭Accenture合作，讓外部評估員進駐公司內部，評估其最強大的人工智能模型。雙方計劃在未來五年各自投資至少10億美元。此舉是為了兌現行政總裁Dario Amodei的承諾，並回應業界對AI安全監管的關注。
人工智能公司Anthropic周五宣布，與顧問公司Accenture合作，讓外部評估人員進駐公司內部，評估其最強大的AI模型。此舉是為了兌現行政總裁Dario Amodei的承諾，讓獨立觀察員審視其模型表現。合作將由Accenture旗下的AI業務部門Faculty主導，工作包括評估及「紅隊測試」（red-teaming）Anthropic的模型。紅隊測試是指刻意嘗試令AI系統出現異常，以揭露其漏洞。
Anthropic與Accenture各自計劃在未來五年為此投入至少10億美元。Amodei在9月12日發表文章時作出這項承諾，他認為AI公司必須減慢提升模型能力的速度。OpenAI行政總裁Sam Altman表示，其公司也會讓外部評估員獲得類似權限。微軟行政總裁Satya Nadella歡迎嵌入式評估員，但警告監管不應由少數實體控制。
鑑於這項工作的重要性及迫切性，Anthropic表示會直接資助Accenture的工作，但長遠而言，資金應來自公共或政府來源。Anthropic又稱，正與加州非營利組織Model Evaluation and Threat Research（METR）商討，讓對方利用自身資金參與部分嵌入式評估。曾擔任白宮AI顧問的David Sacks等批評者，質疑METR因其與Anthropic投資者及員工的關係而欠缺獨立性。METR則表示不接受AI公司或其高層的資助。
周五，包括被視為「AI教父」的Geoffrey Hinton在內，超過100名AI研究人員簽署公開信，呼籲進駐AI公司的評估員必須「有意義地獨立」。信件指出，最低限度，這些組織不應由前沿AI公司擁有或管治，不應與它們有其他重大商業往來，亦不應接受任何與評估結果掛鈎的付款或其他報酬。
