全球大選年防AI假資訊!OpenAI發布打假工具 禁旗下技術用於競選

▲全球今年迎來多場民主選舉,OpenAI表示,預計推出能夠對抗不實訊息的工具、禁止旗下技術用於政治競選。示意圖。(圖/美聯社/達志影像)
國際中心楊智傑/綜合報導 -2024-01-17 13:47:31
2024年全球有76個國家將進行民主選舉,包含台灣、美國、印度、俄烏等,預計影響全球超過一半人口,ChatGPT開發商OpenAI表示,這些選舉登場前,預計推出能夠對抗不實訊息的工具,同時也禁止將旗下AI技術,被用在政治競選和選民壓制。

我是廣告 請繼續往下閱讀

根據《法新社》、《路透社》報導,生成式AI龍頭OpenAI在ChatGPT的爆炸性成功後,也積極參與各國政府AI使用與監管的討論,面對即將影響全球超過半數人口以及6成以上經濟產出的多場選舉,為了防止網路充斥內容有誤且是故意傷害特定對象的不實訊息(Disinformation),將推出使用「內容來源和真實性聯盟」(C2PA)數位憑證的新工具,協助人們驗證分辨AI生成圖片。

報導指出,「法新社事實查核中心」(AFP Fact Check )此前發現,台灣總統大選之前,社群媒體上確實流傳著政治人物遭換臉、竄改的假影音訊息,而OpenAI推出的新工具能使用密碼學對內容來源的詳細資訊進行編碼,協助用戶驗證圖片和影片的真實性,並幫助人們判斷是否為AI生成圖片。

我是廣告 請繼續往下閱讀

OpenAI強調,ChatGPT和圖像生成器「DALL-E 3」將不被允許用於政治競選或壓制選民,ChatGPT聊天機器人在用戶詢問事件即時資訊時,會提供新聞來源與連結,被問及關於大選程序性問題—例如何時、何處投票等—將被引導至權威性、可信任的官方網站等,而後者生成的AI圖片也將設下「護欄」防止用戶生成包括候選人在內的真人圖像。

OpenAI在16日表示,這麼做是希望能確保自家技術不會以「可能破壞民主進程」的方式被使用。

我是廣告 請繼續往下閱讀

我是廣告 請繼續往下閱讀

民調中心

  • 網友呼籲修法,「虐童致死者唯一死刑」」,你支持嗎?

    支持,虐童致死唯一死刑,才能有效嚇阻。
    反對,威權時代才有唯一死刑,法治國家還是應讓法官有量刑空間。