隨著生成式AI技術的不斷發展，散播網路假訊息的模式如今出現變化，美國人工智慧開發公司OpenAI日前指出，該公司發現他們的技術被中國、俄羅斯、伊朗、以色列等國用在「帶動政治風向」上，例如利用大量社群帳號，並在特定時刻進行有意識的操作，藉此影響地緣政治。
我是廣告 請繼續往下閱讀
根據《法新社》、《紐時》等報導，生成式人工智慧ChatGPT的開發公司OpenAI發現，過去三個月來，來自中國、伊朗、俄羅斯與以色列的網軍帳號試圖利用OpenAI強大的語言模型，建立大量社群媒體個人檔案並生成文章、留言還有除錯機器人和網站程式碼等網軍任務。
OpenAI指出，這些帳號包含中國、俄羅斯、伊朗的國家級網軍，還有以色列政治網路輿論操作公司等，研究人員在追蹤多時後認證這些組織都使用了該公司的工具，分別進行輿論操作，例如中國官方網軍行動「垃圾訊息偽裝」（Spamouflage）、俄國「分身」（Doppelganger）等。
其中俄羅斯網軍的「文法錯誤」（Bad Grammar）行動就是利用OpenAI模型和工具，在Telegram用俄語和英語創建簡短的政治評論，「分身」則利用OpenAI的AI在社群媒體X等平台上，創建英語、法語、德語、義大利語和波蘭語等語言的評論。
我是廣告 請繼續往下閱讀
OpenAI也阻止了中國「垃圾訊息偽裝軍」（Spamouflage）的影響力行動，此行動濫用OpenAI模型來生成中、英、日、韓等語言的社群帳號，並針對批評中國政府者發表大量攻擊貶損的文章，且放在社群媒體X平台與Medium等網站上。
這是首次有大型人工智慧公司揭露其工具被用於網路欺騙活動，OpenAI首席研究員尼莫（Ben Nimmo）告訴媒體，該公司公開這些行動的目的與外界擔心生成式AI用於網軍行動有關，這實際展示了網路輿論操作模式有什麼樣的改變。