AI聊天機器人ChatGPT橫空出世,才2個月來用戶數就飆破1億人口,成為當紅話題,不禁讓人好奇身為科技人的數位發展部長唐鳳怎麼看待ChatGPT。他直言ChatGPT就是「會換句話說的搜尋引擎」,目的是在輔助人類,而非代替人類做決定,呼籲大眾要明確了解其用法,不要覺得ChatGPT說得都是對的。
唐鳳這樣玩ChatGPT:請它挑戰我的觀點
唐鳳曾於2010年參與蘋果「Siri」等系統內建人工智能計畫、曾有出版社出過《唐鳳談AI與數位的未來》一書,說起近期爆紅的ChatGPT便滔滔不絕,分享自己怎麼「玩」ChatGPT。
「大型語言模型(簡稱LLM)非常擅長於換句話說,我最近也有用ChatGPT,將枯燥的致詞稿,改成韻文、詩句等,轉換文本風格。」唐鳳提到,最近參加一個研討會,要預錄一段致詞,便使用ChatGPT將數位部相關工作,改為明顯易懂的韻文,與會者覺得很新鮮,覺得他是開放政府界的Dr.Seuss。
另外,當思考受侷限時,他還會請ChatGPT挑戰自己的觀點,再用ChatGPT挑戰它自己的論點。唐鳳認為,在這種發散式,沒有固定標準答案,只是要打破自己思考的慣性時,確實運用ChatGPT比搜尋引擎來的好用,因為搜尋引擎得一篇篇點進去看,但ChatGPT就是把這些資料整合成一個有點模糊、具有輪廓的意象。
但他也提醒,正是因為輪廓模糊,當ChatGPT遇到收斂型、有標準答案的問題,很可能就會亂掰或搞錯,若沒有附上正確的消息來源,或附上來源,但使用者沒有仔細去看,就會養成一種惰性,認為ChatGPT說的都是對的,但它只是憑印象而已。他認為,若要問到精確數字、年份等收斂型問題,「那還不如維基百科好用」,因為維基百科有一套事實查核的機制。
AI是否取代人類工作?
ChatGPT掀AI旋風,但各界的擔憂也如排山倒海而來,將新科技視為洪水猛獸,急著找尋對策因應,學界擔憂學生會用ChatGPT來寫作業或論文,衝擊教學現場,媒體界、文字工作者莫不擔心飯碗會被AI聊天機器人搶走。
對比大眾的擔憂、質疑,唐鳳倒是處之泰然,認為ChatGPT沒有這麼神,「所做的事情也就是網頁摘要而已」,以往學生做報告可能是打關鍵字,找前10個網頁,複製摘要貼上,教授一看就知道,但ChatGPT額外能力就是「換句話說」,教授得花更多時間成本,才知道是否為合成出來的論述。
對於AI是否取代人類工作,他說,任何人來做都一樣的工作才會被取代,如股市的上漲下跌,任何人寫的報導可能都差不多,就很適合ChatGPT來做;當寫文章、新聞,人人有不同觀點、角度、累積的工作經驗等,此時AI就是輔助式的智慧而已,就像人類的研究助理,去幫忙找資料,最後要擷取哪些內容、角度為何,還是由寫文章的這個「人」來決定。他直言,ChatGPT就是「會換句話說的搜尋引擎」, 設計是在輔助人類,而非代替人類做決定。
在與唐鳳對談過程中,可以感受到其思緒敏捷、口才辨給,經常協助發問者整理脈絡,並「聰明的」將各種議題巧妙拉回到政策面,即使是閒聊ChatGPT過程中,談到有人擔憂對資安的風險,如生成假新聞、難辨真偽的釣魚郵件、能寫程式讓駭客門檻變低等等,唐鳳馬上「安利」數位部工作。
他說,數位部接下來的工作,正是要建立一套,即使點擊到釣魚郵件,也無法輕易破解的「身分認證機制」,密碼容易被騙走,若鎖定手機,加上生物辨識如指紋,以及軟體偵測出行為模式有異常(平時都在台灣簽公文,突然出現在別的國家簽公文,就會被偵測出異常),駭客或詐騙就很難攻破。
唐鳳建議各種網路服務提供者,不能只用帳號密碼,否則釣魚郵件、甚至詐騙電話,都能輕易騙取使用者資訊,他舉例,以往詐騙電話打來,可能是用錄音的,民眾聽得出來,但現在可以用即時語音合成,不用成本又對答如流,能更輕易的騙到帳號密碼,但若導入「零信任機制」,對身分、設備、行為模式進行三重驗證,就很難被釣魚釣走。
打造台版ChatGPT可不可行?
OpenAI開發ChatGPT,紅遍全球,Google Bard、中國百度的文心一言也紛紛加入戰場,全球AI軍備競賽的時代已經展開,國科會日前也宣布將於年底推出「台灣版ChatGPT」,將繁體中文優勢,成為行銷國際切入點,防止中國偏見論述。
但ChatGPT技術背後的大型語言模型,訓練所運用到的基礎建設,是全球最領先科技大廠的等級,台灣真有如此資源,能訓練出同等級的大型語言模型嗎?
唐鳳表示,若只是要讓聊天機器人具備「換句話說」的能力,相對容易,國科會國網中心已經有這樣的運算能力,若是要照顧20種國家語言的需求、讓多語言互相對接,才會比較困難,像現在以台語、客語、原住民語跟ChatGPT聊天,會發現它很常亂講,因為其語料大部分都是英文,這就是訓練時語言材料不充足所致,而這也是全世界研發相關技術都會碰到的問題。
他認為,台灣的優勢在於軟硬體整合能力,國科會負責研究、研發,數位部協助找到台版聊天機器人的應用場域,以及引進隱私強化技術,會去研發出強化隱私的運算方式,讓大家合在一起訓練,卻不會看到彼此的個資,透過聯邦學習,大幅降低資安風險。
我是廣告 請繼續往下閱讀
唐鳳曾於2010年參與蘋果「Siri」等系統內建人工智能計畫、曾有出版社出過《唐鳳談AI與數位的未來》一書,說起近期爆紅的ChatGPT便滔滔不絕,分享自己怎麼「玩」ChatGPT。
「大型語言模型(簡稱LLM)非常擅長於換句話說,我最近也有用ChatGPT,將枯燥的致詞稿,改成韻文、詩句等,轉換文本風格。」唐鳳提到,最近參加一個研討會,要預錄一段致詞,便使用ChatGPT將數位部相關工作,改為明顯易懂的韻文,與會者覺得很新鮮,覺得他是開放政府界的Dr.Seuss。
另外,當思考受侷限時,他還會請ChatGPT挑戰自己的觀點,再用ChatGPT挑戰它自己的論點。唐鳳認為,在這種發散式,沒有固定標準答案,只是要打破自己思考的慣性時,確實運用ChatGPT比搜尋引擎來的好用,因為搜尋引擎得一篇篇點進去看,但ChatGPT就是把這些資料整合成一個有點模糊、具有輪廓的意象。
但他也提醒,正是因為輪廓模糊,當ChatGPT遇到收斂型、有標準答案的問題,很可能就會亂掰或搞錯,若沒有附上正確的消息來源,或附上來源,但使用者沒有仔細去看,就會養成一種惰性,認為ChatGPT說的都是對的,但它只是憑印象而已。他認為,若要問到精確數字、年份等收斂型問題,「那還不如維基百科好用」,因為維基百科有一套事實查核的機制。
AI是否取代人類工作?
ChatGPT掀AI旋風,但各界的擔憂也如排山倒海而來,將新科技視為洪水猛獸,急著找尋對策因應,學界擔憂學生會用ChatGPT來寫作業或論文,衝擊教學現場,媒體界、文字工作者莫不擔心飯碗會被AI聊天機器人搶走。
對比大眾的擔憂、質疑,唐鳳倒是處之泰然,認為ChatGPT沒有這麼神,「所做的事情也就是網頁摘要而已」,以往學生做報告可能是打關鍵字,找前10個網頁,複製摘要貼上,教授一看就知道,但ChatGPT額外能力就是「換句話說」,教授得花更多時間成本,才知道是否為合成出來的論述。
對於AI是否取代人類工作,他說,任何人來做都一樣的工作才會被取代,如股市的上漲下跌,任何人寫的報導可能都差不多,就很適合ChatGPT來做;當寫文章、新聞,人人有不同觀點、角度、累積的工作經驗等,此時AI就是輔助式的智慧而已,就像人類的研究助理,去幫忙找資料,最後要擷取哪些內容、角度為何,還是由寫文章的這個「人」來決定。他直言,ChatGPT就是「會換句話說的搜尋引擎」, 設計是在輔助人類,而非代替人類做決定。
在與唐鳳對談過程中,可以感受到其思緒敏捷、口才辨給,經常協助發問者整理脈絡,並「聰明的」將各種議題巧妙拉回到政策面,即使是閒聊ChatGPT過程中,談到有人擔憂對資安的風險,如生成假新聞、難辨真偽的釣魚郵件、能寫程式讓駭客門檻變低等等,唐鳳馬上「安利」數位部工作。
他說,數位部接下來的工作,正是要建立一套,即使點擊到釣魚郵件,也無法輕易破解的「身分認證機制」,密碼容易被騙走,若鎖定手機,加上生物辨識如指紋,以及軟體偵測出行為模式有異常(平時都在台灣簽公文,突然出現在別的國家簽公文,就會被偵測出異常),駭客或詐騙就很難攻破。
唐鳳建議各種網路服務提供者,不能只用帳號密碼,否則釣魚郵件、甚至詐騙電話,都能輕易騙取使用者資訊,他舉例,以往詐騙電話打來,可能是用錄音的,民眾聽得出來,但現在可以用即時語音合成,不用成本又對答如流,能更輕易的騙到帳號密碼,但若導入「零信任機制」,對身分、設備、行為模式進行三重驗證,就很難被釣魚釣走。
打造台版ChatGPT可不可行?
OpenAI開發ChatGPT,紅遍全球,Google Bard、中國百度的文心一言也紛紛加入戰場,全球AI軍備競賽的時代已經展開,國科會日前也宣布將於年底推出「台灣版ChatGPT」,將繁體中文優勢,成為行銷國際切入點,防止中國偏見論述。
但ChatGPT技術背後的大型語言模型,訓練所運用到的基礎建設,是全球最領先科技大廠的等級,台灣真有如此資源,能訓練出同等級的大型語言模型嗎?
唐鳳表示,若只是要讓聊天機器人具備「換句話說」的能力,相對容易,國科會國網中心已經有這樣的運算能力,若是要照顧20種國家語言的需求、讓多語言互相對接,才會比較困難,像現在以台語、客語、原住民語跟ChatGPT聊天,會發現它很常亂講,因為其語料大部分都是英文,這就是訓練時語言材料不充足所致,而這也是全世界研發相關技術都會碰到的問題。
他認為,台灣的優勢在於軟硬體整合能力,國科會負責研究、研發,數位部協助找到台版聊天機器人的應用場域,以及引進隱私強化技術,會去研發出強化隱私的運算方式,讓大家合在一起訓練,卻不會看到彼此的個資,透過聯邦學習,大幅降低資安風險。