桃園市政府計畫將ChatGPT運用在1999市府專線、台南市將率先開發ChatGPT教學模組，立委擔憂公部門或民間企業使用ChatGPT有個資、機密內容外洩等資安疑慮。數位發展部長唐鳳今（11）日指出，國科會正研議「公務機關使用生成式AI參考指引」，建議2大原則，一是小心無中生有的內容、二是採地端、不連外網的方式使用生成式AI會更安全。
立法院交通委員會今天邀請數位部長唐鳳、財政部、國家科學及技術委員會就「網路報稅、ChatGPT等使用率高，數位發展部如何協助使用者防止資安外洩」進行專題報告，並備質詢。
立委李昆澤指出，目前各國政府或企業都有應用ChatGPT的案例，日本神奈川縣橫須賀市使用ChatGPT協助處理公務、法國有醫師用來撰寫病例、桃園市也運用ChatGPT整理陳情電話資訊、台南市則用以輔助教學；但也有政府採保守觀點，日本鳥取縣基於資安疑慮，禁止公務員安裝使用ChatGPT，美國認為AI技術引起資安疑慮，商務部國家電信暨資訊署向民眾徵詢相關規範意見，義大利發生過對答標題、內容外洩，而明令禁用，想詢問台灣是否應明定公務員禁用ChatGPT等生成式AI？對於個資保護、內容外洩等，有何具體建議與做法？
唐鳳回應，義大利要求ChatGPT調整規範後，已解除禁令，目前國科會正召集各部會研議「公務機關使用生成式AI參考指引」，有2大重要原則，其一是運用生成式AI跟搜尋引擎不同，搜尋引擎查到的都是已經出現在網路上的資料，生成式AI則會無中生有，常常生成出自以為有道理，卻非事實的內容，因此建議在公務使用上，不該直接任由生成式AI判斷、直接交出生成內容。
唐鳳說，其二就是個資問題，公部門若透過完全可掌控的地端機器來使用相關技術，就能解決，國科會正在做「可信賴AI對話引擎」，年底前模型出來就能使用。
李昆澤表示，除公部門外，民間企業使用也很危險，Cyberhaven資安服務商統計旗下企業用戶160名員工後發現，8.2%員工在職場使用ChatGPT、3.1%將不能外流的資料上傳，以企業機密資料為多，其次是顧客資料；三星電子也從開放轉為禁用，今年4月初發生三起資料洩漏事件，包含提供應用程式原始碼、協助辨識晶片缺陷、生成會議記錄等，5月禁止員工使用ChatGPT。
唐鳳說，企業資料本來就不該外流，現在問題是大家覺得語言模型方便、產生依賴性，若企業內部能夠部署地端語言模型功能，好用程度跟ChatGPT一樣的話，就不會去使用線上的ChatGPT，而有外流風險。目前數位部旗下的資安院正在打造AI框架，包括產品資安及演算法的檢測，預期下半年將與工研院啟動相關計畫，國科會在年底會推出「可信賴AI對話引擎」，資安院將針對中間開發版本進行驗證。
唐鳳會中受訪解釋，不論是公部門、企業，任何組織都應該採地端或與信任的本地雲端業者合作，也就是租別人的電腦來使用，才不會將資料都上傳到免費公有雲，而引發資料外洩的疑慮。以圖片生成為例，可以付錢租「Midjourney」，打字就能繪出圖案，也能把開源的「Stable Diffusion」下載到筆電裡，不須連網就能使用，現在文字生成也有同樣機制。
唐鳳說，採地端使用比較沒有資料外洩問題，且不連網也能回答即時問題，相關原理是把網際網路公開文字，進行大規模壓縮，最多幾GB、幾十GB的資料檔，包含網路大量文字特徵，不用再連上網，就能生成新文字。
唐鳳強調，不論是公務或任何機關，對於處理他人個資或有資安疑慮時，越靠近地端部署，越不會外流，而在租用本地雲時，則要確定合約裡的注意義務不弱於機關所提出的注意義務，簡言之，不連外網會安全很多。
我是廣告 請繼續往下閱讀
立委李昆澤指出，目前各國政府或企業都有應用ChatGPT的案例，日本神奈川縣橫須賀市使用ChatGPT協助處理公務、法國有醫師用來撰寫病例、桃園市也運用ChatGPT整理陳情電話資訊、台南市則用以輔助教學；但也有政府採保守觀點，日本鳥取縣基於資安疑慮，禁止公務員安裝使用ChatGPT，美國認為AI技術引起資安疑慮，商務部國家電信暨資訊署向民眾徵詢相關規範意見，義大利發生過對答標題、內容外洩，而明令禁用，想詢問台灣是否應明定公務員禁用ChatGPT等生成式AI？對於個資保護、內容外洩等，有何具體建議與做法？
唐鳳回應，義大利要求ChatGPT調整規範後，已解除禁令，目前國科會正召集各部會研議「公務機關使用生成式AI參考指引」，有2大重要原則，其一是運用生成式AI跟搜尋引擎不同，搜尋引擎查到的都是已經出現在網路上的資料，生成式AI則會無中生有，常常生成出自以為有道理，卻非事實的內容，因此建議在公務使用上，不該直接任由生成式AI判斷、直接交出生成內容。
唐鳳說，其二就是個資問題，公部門若透過完全可掌控的地端機器來使用相關技術，就能解決，國科會正在做「可信賴AI對話引擎」，年底前模型出來就能使用。
李昆澤表示，除公部門外，民間企業使用也很危險，Cyberhaven資安服務商統計旗下企業用戶160名員工後發現，8.2%員工在職場使用ChatGPT、3.1%將不能外流的資料上傳，以企業機密資料為多，其次是顧客資料；三星電子也從開放轉為禁用，今年4月初發生三起資料洩漏事件，包含提供應用程式原始碼、協助辨識晶片缺陷、生成會議記錄等，5月禁止員工使用ChatGPT。
唐鳳說，企業資料本來就不該外流，現在問題是大家覺得語言模型方便、產生依賴性，若企業內部能夠部署地端語言模型功能，好用程度跟ChatGPT一樣的話，就不會去使用線上的ChatGPT，而有外流風險。目前數位部旗下的資安院正在打造AI框架，包括產品資安及演算法的檢測，預期下半年將與工研院啟動相關計畫，國科會在年底會推出「可信賴AI對話引擎」，資安院將針對中間開發版本進行驗證。
唐鳳會中受訪解釋，不論是公部門、企業，任何組織都應該採地端或與信任的本地雲端業者合作，也就是租別人的電腦來使用，才不會將資料都上傳到免費公有雲，而引發資料外洩的疑慮。以圖片生成為例，可以付錢租「Midjourney」，打字就能繪出圖案，也能把開源的「Stable Diffusion」下載到筆電裡，不須連網就能使用，現在文字生成也有同樣機制。
唐鳳說，採地端使用比較沒有資料外洩問題，且不連網也能回答即時問題，相關原理是把網際網路公開文字，進行大規模壓縮，最多幾GB、幾十GB的資料檔，包含網路大量文字特徵，不用再連上網，就能生成新文字。
唐鳳強調，不論是公務或任何機關，對於處理他人個資或有資安疑慮時，越靠近地端部署，越不會外流，而在租用本地雲時，則要確定合約裡的注意義務不弱於機關所提出的注意義務，簡言之，不連外網會安全很多。
