輝達執行長黃仁勳於「GTC 2024」大會上宣布,輝達新晶片架構「Blackwell」問世。Blackwell 到底強在哪?他表示,此GPU架構具有台積電4奈米製程等6項用於加速運算的變革性技術,而整合Blackwell的Grace超級晶片GB200性能甚至比前一代高30倍,成本和能耗則降低25倍,強調「Blackwell是推動這場新工業革命的引擎。」
輝達說明,Blackwell GPU架構具有6項用於加速運算的變革性技術,共同支援高達10兆參數的模型的AI訓練和大型語言模型推理,這將有助於在資料處理、工程模擬、電子設計自動化、電腦輔助藥物設計、量子運算和產生人工智慧方面實現突破,成為輝達創造新興產業的機會。
這6項革命性技術分別為:
第1、世界上最強大的晶片:Blackwell架構GPU包含2080億個電晶體,採用客製化的4NP台積電製程製造。
第2、第二代 Transformer 引擎: 在NVIDIA TensorRT-LLM和NeMo Megatron框架中的輝達先進動態範圍管理演算法的推動下,Blackwell將透過新的4位浮點AI支援雙倍的計算和模型大小推理能力。
第3、第五代 NVLink:為了加速數萬億參數和混合專家AI 模型的性能,最新迭代的NVIDIA NVLink為每個GPU提供了突破性的1.8TB/s雙向吞吐量,確保多達576個GPU之間的無縫高速通訊。
第4、RAS 引擎:Blackwell支援的GPU包含一個專用引擎,可實現可靠性、可用性和可服務性。此外,Blackwell架構還增加了晶片級功能,利用基於人工智慧的預防性維護來運行診斷和預測可靠性問題。這可以最大限度地延長系統正常運行時間並提高大規模人工智慧部署的彈性,使其能夠連續運行數週甚至數月,並降低營運成本。
第5、安全人工智慧:先進的機密運算功能可在不影響效能的情況下保護人工智慧模型和客戶數據,並支援新的本機介面加密協議,這對於醫療保健和金融服務等隱私敏感行業至關重要。
第6、解壓縮引擎:專用解壓縮引擎支援最新格式,加速資料庫查詢,以提供資料分析和資料科學的最高效能。未來幾年,公司每年花費數百億美元的資料處理將越來越多地由GPU加速。
黃仁勳表示,這30年來,輝達一直在追求加速運算,目標是實現深度學習和人工智慧等變革性突破,生成式AI是這個時代的決定性技術,「一個全新的產業開始了」,而Blackwell是推動這場新工業革命的引擎。
我是廣告 請繼續往下閱讀
這6項革命性技術分別為:
第1、世界上最強大的晶片:Blackwell架構GPU包含2080億個電晶體,採用客製化的4NP台積電製程製造。
第2、第二代 Transformer 引擎: 在NVIDIA TensorRT-LLM和NeMo Megatron框架中的輝達先進動態範圍管理演算法的推動下,Blackwell將透過新的4位浮點AI支援雙倍的計算和模型大小推理能力。
第3、第五代 NVLink:為了加速數萬億參數和混合專家AI 模型的性能,最新迭代的NVIDIA NVLink為每個GPU提供了突破性的1.8TB/s雙向吞吐量,確保多達576個GPU之間的無縫高速通訊。
第4、RAS 引擎:Blackwell支援的GPU包含一個專用引擎,可實現可靠性、可用性和可服務性。此外,Blackwell架構還增加了晶片級功能,利用基於人工智慧的預防性維護來運行診斷和預測可靠性問題。這可以最大限度地延長系統正常運行時間並提高大規模人工智慧部署的彈性,使其能夠連續運行數週甚至數月,並降低營運成本。
第5、安全人工智慧:先進的機密運算功能可在不影響效能的情況下保護人工智慧模型和客戶數據,並支援新的本機介面加密協議,這對於醫療保健和金融服務等隱私敏感行業至關重要。
第6、解壓縮引擎:專用解壓縮引擎支援最新格式,加速資料庫查詢,以提供資料分析和資料科學的最高效能。未來幾年,公司每年花費數百億美元的資料處理將越來越多地由GPU加速。
黃仁勳表示,這30年來,輝達一直在追求加速運算,目標是實現深度學習和人工智慧等變革性突破,生成式AI是這個時代的決定性技術,「一個全新的產業開始了」,而Blackwell是推動這場新工業革命的引擎。
更多「輝達GTC大會」相關新聞。