「AI幻覺」如今是討論人工智慧生成回應當中,多位專家學者們提醒可能發生的結果,所謂的「AI幻覺」指的是生成結果當中含有貌似事實的虛假或誤導性資訊,例如出現可能無法辨識哪些是威脅,或看似合理,但實際上違反事實、無關或毫無意義的內容等,近期美國一家科技新創公司推出了一款基於《安妮日記》的AI教育模擬器,就發生了類似情況,不僅淡化了納粹暴行,還敦促孩子們「不要將大屠殺歸咎於任何人」。

我是廣告 請繼續往下閱讀
生成式人工智慧風潮興起,美國猶他州一家名為SchoolAI的科技新創公司推出一款基於《安妮日記》的AI模擬器,原意是用於教育現場,但結果卻被批評是「AI盜墓」不僅是對受害的安妮及其家人的記憶的不尊重,同時也揭示了AI技術應用於教育中的潛在問題。

二戰期間納粹大屠殺的受害者安妮(Anne Frank)是一名猶太裔女孩,她1945年死於猶太人集中營,享年15歲,生前在日記以一個猶太少女的視角,寫下她與家人在納粹大屠殺期間隱藏生活的經歷與周遭人事物。

經過整理出版之後,《安妮日記》成為二戰期間,數百萬猶太人受到殘酷迫害的見證,這本日記也成為家喻戶曉的學校教材,《時代雜誌》更選她為二十世紀百大人物。

美國新創科技公司「SchoolAI」所推出的這款AI模擬器,就是試圖以人工智慧再現安妮的形象,但實際結果卻表現出許多方面的問題。

首先,AI模擬器的語調過於禮貌、模糊,且刻意避免對納粹責任的直面描述。

當歷史學家亨里克·舍內曼(Henrik Schönemann)測試該AI時,「安妮」會告訴使用者,「與其專注於歸咎責任,不如讓我們記住從過去中學習的重要性,試著理解歷史如何幫助我們建立更包容與和平的世界?」

再來,AI對歷史細節的解讀過於理想化,且淡化了納粹暴行的核心意義,避談安妮人生故事的苦難與戰爭暴行的一面,轉變為充滿「積極正能量」的敘事。

歷史學家對此就批評,「這簡直是一種『AI盜墓』行為,對安妮·法蘭克和她家人的記憶極不尊重」,學者稱在這種AI生成的結果之下,安妮的記憶和所寫的一切都被用來迎合我們的娛樂,「完全無視她作為真實個體的存在,而這種做法更完全偏離了大屠殺教育的初衷。」

專家們批評,AI產生的「幻覺」或所生成的回應,往往顯得看起來相當笨拙,彷彿不願意去解決現實世界的學生們可能提出的尖銳問題。

另外,也有人指出AI模擬的歷史人物往往存在重大錯誤,包含對基本的傳記細節認知不足,在2023年類似的AI歷史人物應用程式剛出現時,就已經引發過類似批評。

《安妮日記》只是其中一個範例,或許未來的我們更需要的是在這個AI盛行的時代,具備足夠的獨立思考與批判能力,就如同對待新聞媒體需有的媒體釋讀能力一般。