全球AI熱方興未艾，科技巨頭Google本月也宣布透過AI提升的「Overviews」功能，改善了搜尋引擎的效率。然而，許多詭異的搜尋結果在國外網路瘋傳，比如說如果用戶詢問如何「讓起司不要從披薩上掉下來？」Google的AI Overviews會回答「加一些膠水」，且還會教你如何製造無毒的膠水。這顯然跟人們期待的答案不太一樣，Google表示，他們正透過「人力刪除」的方式，將AI Overviews不合邏輯的答案刪除，且持續設法找出改善整個系統的方法。
根據科技媒體《Verge》報導，嘲笑Google新推出的AI Overviews已成為網路最新話題，除了上述的用「膠水黏披薩」之外，還有網友發現如果詢問「每天我該吃多少塊石頭？」AI會煞有其事地回答根據柏克萊大學研究，每天至少應該要吃一塊小石頭，並稱這對於保持健康非常重要。
沒人知道AI在鬼扯什麼，包括Google也不知道。一位匿名工作人員告訴《Verge》，Google曾經以走在科技前沿聞名，如今卻因為低品質的服務成為人們茶餘飯後的話題。
Google發言人則解釋，目前看到的許多案例，都是由於用戶詢問了「不常見的問題」，導致AI發生錯誤，且有些網路瘋傳的問答案例，也無法確定是不是經過惡意編輯。無論如何，Google目前正透過人力，將一些錯誤的回答結果刪除，並從這些錯誤案例中，試圖找出廣泛地改進系統的方法，而目前已經獲得一些進展。
然而，報導也指出，Google在推出這項功能時，曾自豪地說經過一年時間準備，測試AI多達10億個查詢問題，但似乎他們還是沒有能夠通過網友「刁鑽」的測驗。
紐約大學教授、AI專家馬庫斯（Gary Marcus）表示，訓練AI達到80％的正確率不難，但是想達到100％卻非常不簡單，實際上，往往必須「像個人類」般思考與檢驗，才能突破這最後20％的問題。馬庫斯指出，Meta也曾推出一款自己開發的AI系統，結果很快就下架，因為AI建議人們「吃玻璃」，顯然和Google AI建議大家「吃石頭」有異曲同工之妙。馬庫斯表示，AI模型在本質上沒辦法「自己檢查自己」，這就是為何它們在面對某些問題時會陷入混亂。
我是廣告 請繼續往下閱讀
沒人知道AI在鬼扯什麼，包括Google也不知道。一位匿名工作人員告訴《Verge》，Google曾經以走在科技前沿聞名，如今卻因為低品質的服務成為人們茶餘飯後的話題。
Google發言人則解釋，目前看到的許多案例，都是由於用戶詢問了「不常見的問題」，導致AI發生錯誤，且有些網路瘋傳的問答案例，也無法確定是不是經過惡意編輯。無論如何，Google目前正透過人力，將一些錯誤的回答結果刪除，並從這些錯誤案例中，試圖找出廣泛地改進系統的方法，而目前已經獲得一些進展。
然而，報導也指出，Google在推出這項功能時，曾自豪地說經過一年時間準備，測試AI多達10億個查詢問題，但似乎他們還是沒有能夠通過網友「刁鑽」的測驗。
紐約大學教授、AI專家馬庫斯（Gary Marcus）表示，訓練AI達到80％的正確率不難，但是想達到100％卻非常不簡單，實際上，往往必須「像個人類」般思考與檢驗，才能突破這最後20％的問題。馬庫斯指出，Meta也曾推出一款自己開發的AI系統，結果很快就下架，因為AI建議人們「吃玻璃」，顯然和Google AI建議大家「吃石頭」有異曲同工之妙。馬庫斯表示，AI模型在本質上沒辦法「自己檢查自己」，這就是為何它們在面對某些問題時會陷入混亂。