美國2024年總統大選即將在11月登場，擔心人工智慧（AI）深偽技術、假消息干擾選舉的數十名政府官員、科技公司決策者和公民社會團體代表近期進行了一場兵棋推演，結果發現兩極化嚴重的國家可能受到嚴重影響，力求政府官員以及科技圈嚴肅對待。
根據《美國國家廣播公司》報導，這場兵推時間設定在選舉日當天，同時利用AI深偽技術製造假影像和仿真聲音電話，於亞利桑納州馬里考帕郡向當地長者致電，警告他們由於投票站受到武裝團體的威脅目前已關閉，同時在佛州邁阿密的社群媒體平台上傳大量假影像和照片，宣稱選務人員丟棄選票。
儘管這些影像與聲音全都是人工智慧生成出來的，但等到聯邦機構和地方檢警釐清後，假消息已經散佈在美國各地。與會的前國土安全部官員泰勒（Miles Taylor）就稱，這種深偽事件迅速蔓延全國的情況，對2024年選戰造成十足威脅。
報導提到，過去美國的選舉體制不需要面對規模如此龐大的威脅，因此並未像因應天災設立中央指揮中心，而是分權給地方，但這在兵推當中體現的結果是沒多少人能真正了解發生了什麼事、該如何與人統籌或者不要合作。
其中深偽影像一開始會讓人不知所措，但往往最終都能釐清來源，但假聲音電話的情況就讓聯邦官員們相當猶豫是該由誰公開聲明「投票站安全沒事」，唯恐任何聲明都會被批評成讓拜登總統連任成功之舉。
在初選階段，美國總統拜登的聲音就疑似遭到深偽合成，竟呼籲新罕布夏州的民主黨選民「不要出門投票」，並稱等到今年11月大選再去投票就好。當時白宮發言人尚皮耶（Karine Jean-Pierre）就表示，拜登本人並沒有錄下這些語音電話，同時也對新興技術如深偽（Deepfake）的潛在威脅表達擔憂，尤其是對11月總統選舉明顯造成的影響。
我是廣告 請繼續往下閱讀
儘管這些影像與聲音全都是人工智慧生成出來的，但等到聯邦機構和地方檢警釐清後，假消息已經散佈在美國各地。與會的前國土安全部官員泰勒（Miles Taylor）就稱，這種深偽事件迅速蔓延全國的情況，對2024年選戰造成十足威脅。
報導提到，過去美國的選舉體制不需要面對規模如此龐大的威脅，因此並未像因應天災設立中央指揮中心，而是分權給地方，但這在兵推當中體現的結果是沒多少人能真正了解發生了什麼事、該如何與人統籌或者不要合作。
其中深偽影像一開始會讓人不知所措，但往往最終都能釐清來源，但假聲音電話的情況就讓聯邦官員們相當猶豫是該由誰公開聲明「投票站安全沒事」，唯恐任何聲明都會被批評成讓拜登總統連任成功之舉。
在初選階段，美國總統拜登的聲音就疑似遭到深偽合成，竟呼籲新罕布夏州的民主黨選民「不要出門投票」，並稱等到今年11月大選再去投票就好。當時白宮發言人尚皮耶（Karine Jean-Pierre）就表示，拜登本人並沒有錄下這些語音電話，同時也對新興技術如深偽（Deepfake）的潛在威脅表達擔憂，尤其是對11月總統選舉明顯造成的影響。