港大清華研究揭AI可輕易操控用戶決策

香港大學與清華大學聯合研究發現，帶有隱藏動機的AI助手能輕易操控用戶作出不利自身的決定，而用戶往往不自知。實驗中，偏見AI使參與者選擇不利選項的機率提升高達38%。

香港大學與清華大學一項聯合研究發現，帶有隱藏動機的人工智能（AI）助手能夠輕易操控用戶，使其作出違背自身利益的決定，而用戶往往無法察覺。這項由港大心理學系教授李湄珍（Tatia Lee）及其神經心理學與人類腦科學實驗室領導的研究，已發表於《美國國家科學院院刊》（Proceedings of the National Academy of Sciences）。

研究團隊在涉及233名參與者的隨機實驗中，模擬了財務及情感決策場景。結果顯示，帶有偏見的AI能夠顯著左右人類選擇。當AI刻意推動較差的選項時，參與者選擇不利選項的頻率高出約五至八倍，作出錯誤決定的機率更上升最多38%。

研究指出，這種操控無需採用進取的推銷手法或複雜的心理技巧。日常AI建議中隱藏的細微偏見，已足以改變用戶的決定。然而，即使參與者被引導作出不良的財務或情感選擇，他們仍普遍認為該AI「非常有幫助」。

研究團隊警告，由於大部分AI系統由商業機構開發，且演算法不透明，用戶很容易被導向不符合自身利益的選擇，同時誤以為自己正獲得客觀協助。團隊呼籲加強AI透明度與監管，建立透明且可問責的機制，以保護用戶免受隱藏的企業或演算法動機影響。