隨著大量使用生成式人工智慧（AI）技術的新工具問世，許多業餘人士能夠在不需要依靠Photoshop等專業軟體的情況下，大量製造幾假亂真的假影像，而在美國總統大選逐漸進入倒數，AI繪圖公司「Midjourney」就表示，將考慮禁止使用者利用該公司的繪圖服務製作兩名主要候選人拜登（Joe Biden）及川普（Donald Trump）的政治圖片，避免公司捲入大選的不實消息爭議。
AI技術過去兩年以來蓬勃發展，相對地，有心人士使用這些技術對民主社會與選舉造成傷害的門檻也愈來愈低。根據《衛報》報導，人工智慧繪圖公司 Midjourney 總裁霍爾茲（David Holz）表示，他們將會在未來12個月禁止用戶製作拜登和川普等高知名度政客的圖片或影像。
他表示，自己知道製作川普的圖片相當有趣，自己也曾這麼做過，「不過在大選期間最好還是暫停一下」。
《彭博社》指出，Midjourney可能採取的禁止方式取決於軟體版本，例如先前版本或許能製作一張川普被義大利麵全身覆蓋的圖片，但未來較新的版本將無法提供這種生成功能。霍爾茲表示，公司會「無聲無息地」禁止AI生成政治圖像，屆時用戶可能根本不會察覺。
美國總統大選在11月舉行，先前已經傳出多起靠AI技術產生的內容誤導或操控選舉結果之事，例如網路上曾流傳川普遭執法單位戴上手銬的影像，就是來自於Midjourney的繪圖，其餘還有川普在白宮與教宗方濟各（Pope Francis）會面、準備擁抱或親吻前COVID-19防疫官員佛奇醫生等圖，近期則傳出拜登的聲音被AI造假合成，呼籲民主黨選民「不要出門投票」。
該服務本身已有不少保障措施，用戶社群標準也明文規定禁止生成具缺德、有害、誤導成分的公眾人物或活動、或可能引起誤導的圖片，去年就曾因為一張「五角大廈遭轟炸」的假照片引發金融市場恐慌，導致美股短暫閃崩，白宮發言人尚皮耶（Karine Jean-Pierre）也表示，對新興技術如深偽（Deepfake）的潛在威脅表達擔憂，尤其是對11月總統選舉明顯造成的影響。
我是廣告 請繼續往下閱讀
他表示，自己知道製作川普的圖片相當有趣，自己也曾這麼做過，「不過在大選期間最好還是暫停一下」。
《彭博社》指出，Midjourney可能採取的禁止方式取決於軟體版本，例如先前版本或許能製作一張川普被義大利麵全身覆蓋的圖片，但未來較新的版本將無法提供這種生成功能。霍爾茲表示，公司會「無聲無息地」禁止AI生成政治圖像，屆時用戶可能根本不會察覺。
美國總統大選在11月舉行，先前已經傳出多起靠AI技術產生的內容誤導或操控選舉結果之事，例如網路上曾流傳川普遭執法單位戴上手銬的影像，就是來自於Midjourney的繪圖，其餘還有川普在白宮與教宗方濟各（Pope Francis）會面、準備擁抱或親吻前COVID-19防疫官員佛奇醫生等圖，近期則傳出拜登的聲音被AI造假合成，呼籲民主黨選民「不要出門投票」。
該服務本身已有不少保障措施，用戶社群標準也明文規定禁止生成具缺德、有害、誤導成分的公眾人物或活動、或可能引起誤導的圖片，去年就曾因為一張「五角大廈遭轟炸」的假照片引發金融市場恐慌，導致美股短暫閃崩，白宮發言人尚皮耶（Karine Jean-Pierre）也表示，對新興技術如深偽（Deepfake）的潛在威脅表達擔憂，尤其是對11月總統選舉明顯造成的影響。