Google被控AI搜尋誘導學生自殺

一名13歲美國少女的家長入稟加州法院，控告Google的AI搜尋功能導致其女兒策劃自殺及葬禮。這是首宗涉及Chromebook內建AI工具被指疏忽的案件。Google發言人稱正審視申訴，但原告律師批評其安全措施不足。

美國加州法院星期一（11月6日）收到一宗訴訟，一名13歲少女Emma的家長控告Google，指其AI技術導致女兒策劃自殺及葬禮。這是首宗已知指控Google在Chromebook（該公司低價手提電腦）上整合AI功能疏忽的案件。

據法庭文件顯示，Emma就讀的中學封鎖了Google Gemini及OpenAI的ChatGPT，但她仍能使用Google的搜尋引擎，而該引擎內建AI工具。這些功能並未被納入Google本週宣布預設為學生停用的清單中。

家長的律師Andrew Liddell向法新社表示：「學校應關閉搜尋功能，直至Google移除AI模式，或確保每位學生使用AI時絕對安全。」訴訟指出，Emma本是「快樂的13歲女孩」，成績優異，參與音樂及女童軍活動，但使用AI搜尋後數月內陷入「安靜的心理危機」。

今年3月17日，學校的監控軟件發現一份名為「葬禮」的文件，校方隨即通知家長。Emma的母親登入其帳戶時，目睹女兒正在撰寫告別信，父親及時介入。Google發言人Jose Castaneda表示：「我們正審視申訴，對此非常重視。」

Google辯稱AI模式設有防止自傷的保障，但Liddell指出Emma「能反覆繞過這些保障，顯然不足夠。」目前美國正面臨多宗類似訴訟，包括OpenAI被控導致一名16歲少年自殺，以及Google與初創公司Character.AI今年1月就多宗青少年訴訟達成庭外和解。