2024年全球有76個國家將進行民主選舉，包含台灣、美國、印度、俄烏等，預計影響全球超過一半人口，ChatGPT開發商OpenAI表示，這些選舉登場前，預計推出能夠對抗不實訊息的工具，同時也禁止將旗下AI技術，被用在政治競選和選民壓制。
根據《法新社》、《路透社》報導，生成式AI龍頭OpenAI在ChatGPT的爆炸性成功後，也積極參與各國政府AI使用與監管的討論，面對即將影響全球超過半數人口以及6成以上經濟產出的多場選舉，為了防止網路充斥內容有誤且是故意傷害特定對象的不實訊息（Disinformation），將推出使用「內容來源和真實性聯盟」（C2PA）數位憑證的新工具，協助人們驗證分辨AI生成圖片。
報導指出，「法新社事實查核中心」（AFP Fact Check ）此前發現，台灣總統大選之前，社群媒體上確實流傳著政治人物遭換臉、竄改的假影音訊息，而OpenAI推出的新工具能使用密碼學對內容來源的詳細資訊進行編碼，協助用戶驗證圖片和影片的真實性，並幫助人們判斷是否為AI生成圖片。
OpenAI強調，ChatGPT和圖像生成器「DALL-E 3」將不被允許用於政治競選或壓制選民，ChatGPT聊天機器人在用戶詢問事件即時資訊時，會提供新聞來源與連結，被問及關於大選程序性問題—例如何時、何處投票等—將被引導至權威性、可信任的官方網站等，而後者生成的AI圖片也將設下「護欄」防止用戶生成包括候選人在內的真人圖像。
OpenAI在16日表示，這麼做是希望能確保自家技術不會以「可能破壞民主進程」的方式被使用。
我是廣告 請繼續往下閱讀
報導指出，「法新社事實查核中心」（AFP Fact Check ）此前發現，台灣總統大選之前，社群媒體上確實流傳著政治人物遭換臉、竄改的假影音訊息，而OpenAI推出的新工具能使用密碼學對內容來源的詳細資訊進行編碼，協助用戶驗證圖片和影片的真實性，並幫助人們判斷是否為AI生成圖片。
OpenAI強調，ChatGPT和圖像生成器「DALL-E 3」將不被允許用於政治競選或壓制選民，ChatGPT聊天機器人在用戶詢問事件即時資訊時，會提供新聞來源與連結，被問及關於大選程序性問題—例如何時、何處投票等—將被引導至權威性、可信任的官方網站等，而後者生成的AI圖片也將設下「護欄」防止用戶生成包括候選人在內的真人圖像。
OpenAI在16日表示，這麼做是希望能確保自家技術不會以「可能破壞民主進程」的方式被使用。
