OpenAI政變導火線!阿特曼推動AGI發展 新技術「Q*」恐危害人類

▲OpenAI高層人事地震背後與通用人工智慧(AGI)技術發展有關。示意圖。(圖/美聯社/達志影像)
國際中心楊智傑/綜合報導 -2023-11-23 12:27:56
人工智慧公司OpenAI的人事異動如同宮鬥劇般,以被無預警解職的執行長阿特曼(Sam Altman)回鍋且將重組董事會暫時告一段落。《路透社》獨家報導指出,整起事件的導火線與董事會成員收到研究人員的警告信有關,內容提及阿特曼致力推動的通用人工智慧領域有了一項名為「Q*」的技術突破,而這項研發可能會就此威脅人類。

我是廣告 請繼續往下閱讀

通用人工智慧(Artificial General Intelligence,AGI)是指可以概括、學習和理解,且具有與人類同等智慧,甚至超越人類、能表現出正常人類行為的人工智慧,數名OpenAI的研究人員日前向董事會發出一封警告信,提到公司內部在一項名為「Q*」(Q-star)的研究項目取得重要進展,而「Q*」項目被認為與AGI的突破有關。

阿特曼先前傳出遭解僱時,OpenAI以阿特曼對公司內部並不坦誠為由解職,其中首席科學家蘇茨克維(Ilya Sutskever)就傳出與阿特曼想法有分歧,擔心通用人工智慧發展帶來的負面影響,最終可能帶來「無限穩定的獨裁政權」;報導中提到,一封多名研究人員寄出的警告信內也強調了AI的能力與潛在的危險,而在阿特曼領到的ChatGPT以及微軟提供的必要投資與資源下,該公司已接近「超智慧」AGI領域,這也成為董事會罷免阿特曼的關鍵進展。

消息人士表示,曾短暫接手公司CEO職位的OpenAI技術長穆拉提(Mira Murati)週三向員工提到了這項「Q*」(Q-Star)研發項目,並表示在董事會採取開除行動前曾取得一封信,提及強大的AI技術有可能對人類造成威脅之事。

因為擁有龐大的計算資源,新的「Q*」模型能夠解決某些數學問題,雖然在測驗結果中其數學成績僅達到小學生的程度,但「Q*」在此類測驗取得的好成績,仍讓研究人員對「Q*」的未來感到非常樂觀。

我是廣告 請繼續往下閱讀

通用人工智慧領域成為目前討論AI避不開的膠著點,在今年7月OpenAI成立了團隊來確保AGI符合人類的利益,但團隊負責人雷克(Jan Leike)仍稱目前沒有任何方案可以控制一個潛在的超智慧AGI,並防止其失控。

另一方面,阿特曼在上週於舊金山的APEC峰會上則表示AGI已經近在眼前,OpenAI這家公司已經有四次機會可以推動其發展,且稱若能成功做到將是自己一生中的榮譽。

我是廣告 請繼續往下閱讀

我是廣告 請繼續往下閱讀