IG追蹤「兒童網紅」卻遭推播露骨短片!WSJ:演算法助長有毒內容

▲《華爾街日報》追蹤Meta旗下熱門社群平台Instagram的演算法機制,發現追蹤兒童網紅的用戶會在Reels功能上看見更多不雅內容。(示意圖/取自unsplash)
國際中心楊智傑/綜合報導 -2023-11-28 22:19:45
《華爾街日報》今年曾獨家報導指出,Meta旗下熱門社群平台Instagram的演算法機制協助戀童癖者組織兒童色情為主的龐大網絡,更推廣到其他潛在用戶上,近期測試又發現IG演算法會對那些追蹤兒童網紅的成年用戶們推播大量露骨或色情內容,再度掀起嚴重違反法律的爭議。

我是廣告 請繼續往下閱讀

Instagram短影音服務「Reels」演算法是《華爾街日報》再度對此議題測試的對象,根據他們實際設立的測試帳號結果,這些追蹤了年輕體操選手、啦啦隊長或其他青少年甚至兒童網紅的帳戶,往往會接受演算法推送的大量成人淫穢內容,包含帶有性意味的露骨短片或兒童不雅影片,以及不少美國大型企業或知名品牌的廣告等。

報導指出,「兒童保護組織」加拿大兒童保護中心也進行獨立測試,並得到類似結果。Meta對此則回應《華爾街日報》稱這種測試是「人為體驗」,並不代表數十億用戶看到的結果會相同,但針對演算法為何會把「兒童」、「性」、「廣告」等不同主題的影片進行相關推播,Meta並未給出回應。

Meta負責處理與廣告業務關係的副總裁莎曼珊(Samantha Stetson)指出,IG在今年10月推出了一項新的品牌安全工具,讓廣告客戶能夠更好地控制其廣告出現的位置,並在解決方案上投資了數十億美金,另外也稱公司每個月都會針對將近400萬個涉嫌違反其標準的影片進行刪除或限制流量,強調Instagram上「有毒內容」的發生率很低。

此前,《華爾街日報》曾報導與史丹福大學網路觀察室(Stanford Internet Observatory)的研究結果,發現有405個經營兒童色情內容的賣家管理著自稱年僅12歲或由兒童本人管理的帳戶,但Meta旗下產品如IG和FB均禁止未滿13歲兒童申請帳號。

我是廣告 請繼續往下閱讀

研究人員指出,平台上多數人是看不見IG上的兒童色情相關主題標籤,但這些經過刻意搜尋的關鍵字或廣告當中,能夠明確找到這些帳戶,同時賣家還會以具有挑逗性的字眼來行銷販賣兒童色情內容。

當時Meta坦言內部已經成立工作小組來解決這些問題,並重申兒童剝削是可怕的罪行,「我們正在不斷研究如何積極防範這種行為。」

我是廣告 請繼續往下閱讀

我是廣告 請繼續往下閱讀