祖克柏看到沒？AI生成「亞裔截肢女性圖」　獵奇IG帳號擁10萬粉絲

臉書母公司Meta旗下的熱門社群平台Instagram，過去就曾因為演算法機制遭外媒踢爆助長戀童癖者組織起以兒童色情為主的龐大社群，甚至成為販賣兒少性虐待內容、兒童色情內容最主要的平台，如今生成式人工智慧普及，該平台再度出現以AI生成方式展示「亞裔截肢女性」裸露影像與影片的內容，吸引了超過10萬名追隨者，再度引發巨大爭議。

根據科技媒體《futurism》報導，這個名為「Asian Amputees」帳號自2023年12月起開始運營，並以「亞裔截肢美人」和「住在泰國的亞裔截肢女性」等作為標籤，吸引具有「慕殘」喜好的使用者。

「慕殘」在維基百科的介紹中，指的是一種性嗜好與取向，指的是一個人迷戀殘疾人士或熱衷於變為殘疾人，一般分為慕殘者（devotee）、扮殘者（pretender）和自殘者（wannabe）等，

《futurism》發現，這個IG帳號使用AI生成影像，製造出大量左右臂截肢的女性在充滿亞洲風情的鄉村街道擺出各種類似網紅的姿勢，而這些內容也明顯由AI生成，包含許多細節錯誤，例如手指與腳趾的變形，然而就算這些圖像影片一點也不真實，該帳號仍吸引了大量具有慕殘傾向的用戶按讚與留言，其中一則貼文甚至有超過30萬個讚。

報導指出，該帳號的評論區「令人不適」且充滿了性暗示留言與表情符號，有網友嘲諷稱這些留言者根本分不清是AI還是真人，但更多留言卻是留下了愛心符號和帶有獵奇意味的評論。

與此同時，《futurism》也指出像這樣的AI生成帳號有著不少爭議，其一是「缺乏真實性」，內文稱由於內容完全由AI生成，無法確認帳號背後的運營者是否真的是由亞裔女性、截肢者，這種模糊性導致的倫理問題本身就極具爭議。

第二是這類帳號對亞裔、截肢者群體的不尊重，報導指出這類帳號利用AI技術模擬出一個「看起來相當真實的內容」且將其性化，這也遭人詬病是否在助長對於亞裔女性和截肢者的不當迷戀。

最後則是關於「未成年人可見性」的討論，因為根據《futurism》記者團隊們測試，該帳號的內容對於沒有登入的用戶、設定為未成年帳號的用戶來說，居然都可直接查閱、按讚與互動等，是否對心智未成熟的未成年人來說擴大負面影響也成為重要討論。

不僅如此，此前《華爾街日報》就曾報導與史丹福大學網路觀察室（Stanford Internet Observatory）的研究結果，發現有405個經營兒童色情內容的賣家管理著自稱年僅12歲或由兒童本人管理的帳戶，但Meta旗下產品如IG和FB均禁止未滿13歲兒童申請帳號。

相較起先前這批經營兒童色情內容的帳號來說，與「Asian Amputees」有關的帳號內容雖然不涉及明顯裸露或色情畫面，但帳號本身與內容帶有性暗示的性質，在如今Meta平台政策的灰色地帶中卻能順利存活下來。

報導最後提到，Meta並未對此作出回應，但相關帳號已經遭刪除，有觀察者認為，在川普上任的這個時期，Meta選擇放寬平台內容審查的做法可能是為了迎合美國政治右派，尤其是在祖克柏宣布臉書新政策將放寬對仇恨言論的管理後，類似的帳號可能會越來越多。

Meta是否會對此採取行動，目前仍不得而知，我們唯一能確定的是，隨著AI生成內容的廣泛被應用各大社群平台上，該如何面對類似的倫理問題將成為未來的我們無法忽視的挑戰。