AI取代製作者角色 人類審查責任加重

傳統專業工作由「製作者」與「審查者」分工，但隨着人工智能（AI）取代製作者位置，審查者無法向AI追問具體工作過程。專家指出，若人類只負責審查AI輸出，便無法確保問責性，人類必須深入檢視證據與假設，才能承擔最終責任。

專業工作傳統上依賴兩個角色：製作者負責完成工作，審查者負責檢視結果。當有疑問時，審查者可查問數字如何得出、使用了哪些證據、為何作出某項判斷——兩個頭腦各自為不同部分負責。

然而，現時部分機構將人工智能（AI）置於製作者位置，並以「人類把關」（human in the loop）一詞作為安心理由。工作流程圖幾乎不變：機器製作者，人類審查者。但重要元素已消失。

AI能就其輸出回答提問，但其解釋只是另一段生成的輸出。它可能描述一條看似合理的路徑，卻未能提供可驗證的實際過程記錄。無論AI說甚麼，若工作出錯，機器不承擔任何後果。製作者座位看似有人，但實際上沒有可問責的人坐在那裏。

前納斯達克行政總裁Frank Ng與兒子Ryan Ng在其合著專欄中指出，這情況就像一名廚師被要求審查一道已完成的菜餚。即使廚師的味覺能判斷味道，卻無法還原廚房裏發生的事：食材從何而來、用了哪些替代品、走了哪些捷徑、或哪些東西根本不應放進鍋裏。但審查者如今卻要憑成品認證整個過程。

當審查者沒有親身參與製作者的工作，又沒有可問責的製作者可供查問，審查的基礎何在？僅靠品嚐輸出結果並不足夠。將人類留在流程中，不能只是安排一個人坐在末端批准結果。人類必須仔細檢視證據、假設及通往答案的材料路徑，直至能將判斷視為自己的判斷。

當AI擔當製作者角色時，流程中的人類不再是第二個可問責的頭腦——人類是唯一的一個。