美國總統大選將於今年11月登場，近期臉書上卻廣傳一段不實暗示美國總統拜登（Joe Biden）有戀童癖的影片且遲遲未下架，這讓Meta監察委員會啟動調查並做出第一個針對Meta有關變造影音內容政策的裁決，而作為社群媒體巨擘的Meta為此也宣布，將於5月起開始標記人工智慧（AI）生成的內容，且將適用於臉書、Instagram和Threads等社群平台。
我是廣告 請繼續往下閱讀
綜合《路透社》、《法新社》等外媒報導，由Meta出資但獨立運作的Meta監察委員會（Oversight Board）接獲用戶投訴，稱臉書（Facebook）出現一段暗示美國總統拜登具有戀童傾向、經過修改的7秒鐘影片，但該影片未被Meta下架，且被判定未違反公司現行規定。
Meta監察委員會去年10月對此案展開審查，並在報告中批評Meta在「變造影音內容」政策上過於狹隘，尤其是在人工智慧（AI）生成內容方面。這是第一起針對該公司相關政策作出的裁決，此類政策往往禁止用戶上傳特定類型經過竄改的後製影片；Meta監察委員會也提到，AI生成內容的進步已經使得深偽（Deepfake）合成影像變得越來越逼真，而人們也愈來愈難以分辨真假，提高透明度並標記AI生成內容，有助於減少誤導和混淆。
為此，Meta公司宣布，將從今年5月開始標記AI生成或修改的內容，包含在臉書、Instagram和Threads等旗下社群平台上，所有的影片、聲音內容以及圖片等等，這個作法將會在影音內容上標誌有「AI製作」（Made with AI）的標籤，協助用戶清楚識別這些影音內容的來源並藉此識別。
我是廣告 請繼續往下閱讀
Meta也表示，為了避免過度刪除內容、保障言論自由，在7月後將停止過去相關規定當中「移除後製影片」的處理方式，這代表這些經過AI後製的內容，只要沒有違反其他如仇恨言論、干預選民等規定，就可以保留在這些社群平台上。
在2024年這個「超級選舉年」上，Meta的行動被認為是回應社會對於AI生成內容可能影響大選的擔憂，此前美國總統拜登、前總統川普都曾有不少遭深偽技術合成出來的影像，在初選期間還有選民接獲假造拜登聲音的來電，要求他們不要出門投票。