技嘉AI伺服器導入先進冷卻技術 搶拚人工智慧商機

▲技嘉旗下子公司技鋼科技今(10)日宣布推出新款AI伺服器導入先進冷卻技術,而未來也將針對輝達近期發表的 L40S 運算卡進行相容性測試,搶佔商機。(圖/技嘉提供)
記者許家禎/台北報導-2023-08-10 20:02:19
技嘉集團旗下子公司技鋼科技今(10)日宣布推出新款AI伺服器 G363-SR0與G593-SD2;支援第四代Intel Xeon可擴充處理器,與輝達HGX H100的4-GPU和8-GPU。未來,技鋼也將針對輝達近期發表的 L40S 運算卡進行相容性測試,該GPU適用於多用途工作負載,例如3D繪圖、影像渲染、虛擬化工作站、影像串流加速,以及炙手可熱的人工智慧訓練等。

我是廣告 請繼續往下閱讀

技鋼指出,為了更高的效能,需要採用更創新的解決方案。G363採用直接液體冷卻(DLC)設計,藉由搭載在處理器與GPU上方的直接液體冷卻模組,能迅速將熱能從2個Intel Xeon處理器和4顆NVIDIA GPU模組中帶走。3U高度的G363-SR0提供了超乎理想的運算效能,伺服器共有8個2.5吋插槽,支援Gen5 NVMe/SATA/SAS藉以提供快速的IO傳輸。網路連接部分提供6個PCIe 5.0 low-profile擴充槽。系統供電則配備了2 + 1的冗餘電源配置,使用3000W的鈦金電源。

資料中心的電力消耗問題正逐步造成全球環境議題,為了減緩此困境,開發突破傳統氣冷技術中配置大量風扇與空間散熱的替代方案成為趨勢。直接液體冷卻技術是讓運轉中的CPU或GPU等零組件,透過導熱銅片(或稱「冷板」)將熱能傳導到冷卻液,冷卻液沿著封閉式的迴流管線帶出伺服器,通過冷卻液分配裝置將熱能排出資料中心。

與傳統氣冷系統相比,DLC技術不僅能維持高效運算,不必額外增設冷卻基礎設施,還能節省更多的能源,從而降低總成本、營運費用並提高投資報酬率。

而近期人工智慧訓練和密集運算工作負載需求不斷上升,技嘉G593系列以能處理頂尖的GPU加速運算,並可在5U機身中搭載8顆NVIDIA H100 SXM5 GPU的領先技術而聞名。G593整體結構被分為上下兩部分,上方1U 支援Intel Xeon雙處理器,技嘉以最高密度的配置,在下方4U空間放入相較業界減少1~3U空間的8顆NVIDIA H100 SXM5 GPU模組,集中散熱區域的溫控與耗電量,呈現最佳的散熱效益與低能耗。

技鋼的研發團隊擁有高度彈性與機動性,有別於 G593-SD0在機箱後方上排保留數個low-profile擴充槽的空間,在新的SD2機箱中以用於輝達BlueField DPUs的FHHL擴充槽取代。這個小小的改變讓G593-SD2能運用多個BlueField資料處理器來加速資料傳輸以及高效能與高效率的工作負載,並確保伺服器中至關重要的資訊安全議題。G593-SD0與G593-SD2皆可為生成式人工智慧或高效能運算應用帶來令人驚豔的超算力。

而本週輝達為其龐大的GPU產品線再增添了4款新的加速器生力軍,特別著重在運算與虛擬化領域,技鋼時時做好準備,持續不斷為新款加速器進行相容性認證,確保搭載於技嘉伺服器的效能表現,讓客戶得以快速部屬啟用。

我是廣告 請繼續往下閱讀

基於輝達Ada Lovelace架構的L40S GPU,號稱是資料中心前所未見最強大的通用GPU,可實現突破性的多工作負載效能,從生成式人工智慧和大型語言模型推論與訓練、3D繪圖、渲染和動態影像加速。

新公布工作站工作負載導向的輝達RTX Ada Generation運算卡,針對不同專業領域的用戶,提供高效能、即時光線追蹤、人工智慧運算和先進的繪圖渲染。基於Ada架構的RTX 5000、RTX 4500和RTX 4000 GPU採用PCIe Gen4 x16規格,支援如輝達GPUDirect和GPUDirect RDMA等技術,可加速影像運算,並實現系統間更快更高效的數據傳輸。

我是廣告 請繼續往下閱讀

我是廣告 請繼續往下閱讀