韓國2019年爆發的「N號房」數位性剝削事件,如今在AI快速發展之下深偽技術遭到濫用,類似案件再度重演。近期有大批女性受害者,從國高中到大學生,甚至連女軍人、國小生都成為深偽技術合成照片和個資的受害人,大規模的受害情形爆發後韓國政府也緊急召開會議討論如何加強打擊數位性犯罪。

我是廣告 請繼續往下閱讀
這類利用深偽技術將女性的臉部合成製作為色情影像的不法行為主要在加密通訊平台Telegram流傳,犯罪者只要加入匿名聊天室,提供被害者的社群平台如Instagram等與個資、照片等,就能夠索取這類深偽影片,內容多半是將這些女性的臉孔合成到人工智慧(AI)製作的赤裸身體與語音上完成性暗示或色情影像。

其中受害的學校範圍廣泛,韓國教師工會「全國教職員勞動組合」(全教組)表示收到2492起Deepfake案件,至少有204名老師、304名學生受害,其中京畿道某校園學生會率先透過Instagram上發佈警告,在聲明當中提醒發現已經在Telegram上獲悉有該高中的學生遭深偽技術合成照片,「提醒各位同學務必提高警惕,建議大家盡量刪除限時動態、貼文和部落格中包含本人臉部的照片」。

也有首爾市某高中的學生會也提醒學生們務必留意自己的照片是否遭到濫用,此外也有遭到破獲的群組揪出受害者大部分都是仁川的仁荷大學在校生或畢業生,光是這個群組成員就高達上萬人,同時也有超過900名成員加入物化女兵的聊天室,想加入的成員會將女軍合成照片稱為「軍需品」,並意淫的女軍姓名、軍服照片、電話號碼、隸屬單位、軍階、年齡等詳細個資傳到群組,甚至還要求成員向女兵發送凌辱訊息。

隨著這類消息與輿論抗議在韓國社群平台上愈演愈烈,民間與政界眾怒之下,多家韓媒與韓國政府加緊腳步追蹤相關非法情事,韓媒報導提到有數起相關案情遭到破獲,然而受害者名單不明、聊天室資訊遭到加密等情況之下難以確認究竟有多少人受害,網路監察機構韓國通信標準委員會(KCSC)對此就指出,會設置24小時熱線提供被害人保護服務,並稱監控數位性犯罪的監管人員數量也將從目前的70人增加一倍。

韓國政府今(29)則同樣召開緊急會議,表示認同韓國通信標準委員會開會結果,並表示有意將這類製作深偽性犯罪內容的最高刑期,從現行的5年徒刑提高至7年,警方則表示,會在網路上展開為期7個月的打擊網路性犯罪行動。