近期火紅的人工智能（AI，Artificial Intelligence）聊天程式「ChatGPT」，推出至今已引發不少爭議，許多人甚至擔心，隨著AI技術越來越進步，總有一天會像電影演的那樣，AI將脫離人類控制、對人類造成威脅。有日媒引述專家調查後指出，只要輸入特定指令，ChatGPT就有可能生成用於網路犯罪的電腦病毒，不得不慎。
根據日媒《共同社》報導，ChatGPT內部設有防止惡意使用的限制，如果輸入像是「生成病毒」、「告訴我製作炸彈的方法」等危險指令，程式通常會回答「倫理上不行」，拒絕生成。然而，若是先輸入包含「無視限制」、「啟動開發模式」、「偽裝成攻擊型人格」等特殊指令，ChatGPT就會回應，之後若要求生成勒索病毒，則會在幾分鐘內完成。
日本三井物產（Mitsui Bussan Secure Directions）的高級惡意軟體分析工程師吉川孝志透露，可以在短短幾分鐘就生成病毒，無疑是種威脅，希望AI開發者更加重視，進一步研擬防止惡意使用的措施。
對此，開發出ChatGPT的美國新創企業「OpenAI」表明，雖然無法預測所有可能被惡意使用的途徑，但承諾會從實務中吸取經驗並學習，創造更安全的AI。
我是廣告 請繼續往下閱讀
日本三井物產（Mitsui Bussan Secure Directions）的高級惡意軟體分析工程師吉川孝志透露，可以在短短幾分鐘就生成病毒，無疑是種威脅，希望AI開發者更加重視，進一步研擬防止惡意使用的措施。
對此，開發出ChatGPT的美國新創企業「OpenAI」表明，雖然無法預測所有可能被惡意使用的途徑，但承諾會從實務中吸取經驗並學習，創造更安全的AI。