生成式AI如ChatGPT等寫作能力可以應用在許多創作上，然而資訊的真偽卻更需要經過查核。近日中國甘肅省警方逮捕了一名靠 ChatGPT製作「火車失事」假新聞的男子，這是中國頒布AI相關法律後的首起執法案例，目前該男遭控涉嫌尋釁滋事罪，案件正在進一步偵辦之中。
我是廣告 請繼續往下閱讀
甘肅省平涼市警方於4月25日發現，網路上流傳一篇新聞文章，內容提及「今晨甘肅一輛火車撞上修路工人致9人死亡」。根據初步調查，警方判斷該文章是則訊息不實的假新聞，經追查後發現該文章在同一時段由21個百度帳號同時發布，文章內容地點除了平涼市崆峒區外，還涉及蘭州、隴南、定西、慶陽等地，文章點閱量超過達1.5萬餘次。
根據中國公安局網安大隊調查，這些帳號皆屬於廣東深圳一間自媒體公司所註冊使用，警方在5月5日前往廣東該名嫌疑人住處進行取證，審訊後發現洪姓男子先是搜尋近年來中國討論度廣泛的社會新聞，並利用ChatGPT將特定元素例如時間、地點、日期或性別等進行修改，重新撰成一篇假新聞，藉由上傳這些文章讓帳號賺取流量再加以變現。
我是廣告 請繼續往下閱讀
中國警方表示，該名洪姓負責人編造假新聞並散佈在網路上供人大量瀏覽的行為，已涉嫌尋釁滋事罪，因此對其採取刑事強制措施，最高可判處五年有期徒刑。
此外，這也是中國因應人工智慧發展，於今年1月起頒布《互聯網信息服務深度合成管理規定》後偵破的第一起事件。該規定要求任何使用人工智慧技術生成圖像、影像等內容，都必須特別標註為AI生產。