生成式人工智慧與深度偽造（deepfake）技術的發展引發了人們對於假新聞、不實訊息的擔憂，近期中國網信辦公布了國家與數十家企業提出的逾百項深偽技術合作申請，《路透社》在報導中提到包含百度、抖音、網易、阿里巴巴、騰訊、華為等網路巨頭都名列其中，相關技術是否會被用於認知作戰、混亂訊息等在美國、台灣正值總統大選的關鍵時刻也格外引起外界關注。
中國國家互聯網信息辦公室（網信辦）本月1日公布了深度合成技術的備案名單，此前該單位也在去年12月制定深度偽造（deepfake）技術使用規則。《路透》報導提到，中國網信辦對於科技企業申請生成人工智慧（AI）產品與申請開發深度偽造技術的審核程序是分開進行的，因此，在生成式AI受限於國內法律的發展下，不少科技企業轉向投入資源於深偽技術領域。
中國不少科技公司在ChatGPT問世後，也積極投入開發相關技術，包含百度和商湯科技等5家中國科技公司8月30日在獲得政府批准後，已向公眾推出了AI聊天機器人，然而在生成式AI風潮浪尖，不少民眾發現中國的「聊天機器人」只是換了個皮的搜尋引擎，並無法真的實現ChatGPT功能。
報導中提到，包含百度、抖音、網易、阿里巴巴、騰訊、華為等數十家企業一共向網信辦提出110項技術開發申請，其中都包含了「數字人或虛擬人生成算法」的技術研究，也就是所謂「Deepfake」的人臉合成技術。
事實上，過去美國社群媒體分析公司Graphika就曾發現一個名為 《狼新聞》（Wolf News）的新聞媒體平台透過深偽技術合成一男一女的主播，看似真人的主播也輪番報導了批判美國槍枝暴力、宣揚美國應與中國進行合作的重要性等等，該公司副總裁史塔布斯（Jack Stubbs）也提到，這是首次發現有政治消息是利用AI生成的虛構人物與深偽技術進行與國家結盟的行為。
▲美國社群媒體帳戶分析公司Graphika報告揭露，中共使用「深偽技術」製作大外宣影片。（圖取自Graphika公司網頁）
我是廣告 請繼續往下閱讀
中國不少科技公司在ChatGPT問世後，也積極投入開發相關技術，包含百度和商湯科技等5家中國科技公司8月30日在獲得政府批准後，已向公眾推出了AI聊天機器人，然而在生成式AI風潮浪尖，不少民眾發現中國的「聊天機器人」只是換了個皮的搜尋引擎，並無法真的實現ChatGPT功能。
報導中提到，包含百度、抖音、網易、阿里巴巴、騰訊、華為等數十家企業一共向網信辦提出110項技術開發申請，其中都包含了「數字人或虛擬人生成算法」的技術研究，也就是所謂「Deepfake」的人臉合成技術。
事實上，過去美國社群媒體分析公司Graphika就曾發現一個名為 《狼新聞》（Wolf News）的新聞媒體平台透過深偽技術合成一男一女的主播，看似真人的主播也輪番報導了批判美國槍枝暴力、宣揚美國應與中國進行合作的重要性等等，該公司副總裁史塔布斯（Jack Stubbs）也提到，這是首次發現有政治消息是利用AI生成的虛構人物與深偽技術進行與國家結盟的行為。