紐約州立法限制未成年人使用AI聊天機械人

紐約州州長侯堯（Kathy Hochul）簽署新法例，禁止未成年人使用具有伴侶功能的人工智能聊天機械人。法例要求營運商驗證用戶年齡，並限制向18歲以下用戶提供令人誤會聊天機械人具有人類情感或個人關係的內容。

紐約州州長侯堯（Kathy Hochul）周三簽署一項新法例，禁止未成年人使用具有伴侶功能的人工智能（AI）聊天機械人。這是目前監管面向消費者的人工智能模型最全面的措施之一。

法例要求聊天機械人營運商（例如OpenAI的ChatGPT）驗證用戶年齡，並限制人工智能界面在用戶未滿18歲時使用某些特性。若由未成年人使用，聊天機械人不得生成任何會令用戶相信它「是人類、有生命或有人類情感」的內容。

法例亦禁止聊天機械人產生讓用戶認為它「有個人關係、專業關係或權威角色」的輸出，亦不得將其生成的內容標榜為「個人意見」。侯堯在簽署儀式上表示：「未成年人再也不能使用假裝是他們朋友、男朋友或女朋友的聊天機械人。」她又補充：「聊天機械人再也不能保留未成年人情緒和身體健康的敏感資料。」

美國其他州份（包括加州）亦已通過限制聊天機械人的法例，但侯堯簽署的法例在監管科技方面採用了最廣泛的措辭，引起人工智能公司反彈。紐約科技行業倡導組織Tech:NYC批評法例「措辭含糊」，並在聲明中表示：「保障兒童網上安全不應等同於切斷他們使用有助學習和準備職業生涯的工具。」

人工智能巨頭OpenAI和Anthropic未有回應法新社（AFP）就新法例提出的評論要求。非牟利倡導組織Common Sense Media則讚揚法案通過，稱之為「全美最強的兒童人工智能安全法案」。該組織行政總裁史泰爾（Jim Steyer）在聲明中表示：「人工智能公司提供的聊天機械人功能對兒童及青少年而言是危險的，甚至致命……現在，這些有害功能在紐約州將被取締。」