NVIDIA 于今日發(fā)布新一代 NVIDIA GH200 Grace Hopper 平臺,該平臺基于全球首款搭載 HBM3e 處理器的 Grace Hopper 超級芯片,專為加速計算和生成式 AI 時代而構(gòu)建。
生成式AI市場呈現(xiàn)出無比廣闊的前景,而NVIDIA GH200 Grace Hopper平臺有將帶來更多的可能性。其專為處理大語言模型、推薦系統(tǒng)、矢量數(shù)據(jù)庫等全球最復(fù)雜的生成式 AI 工作負(fù)載而構(gòu)建,將提供多種配置選擇。
該平臺采用雙配置——提供的內(nèi)存容量和帶寬比當(dāng)前產(chǎn)品分別增加了 3.5 倍和 3 倍——包括一個擁有 144 個 Arm Neoverse 內(nèi)核、8 petaflops 的 AI 性能和 282GB 最新 HBM3e 內(nèi)存技術(shù)的單個服務(wù)器。
NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示:“為了滿足對生成式 AI 不斷激增的需求,數(shù)據(jù)中心需要能夠滿足特定需求的加速計算平臺。全新 GH200 Grace Hopper 超級芯片平臺以出色的內(nèi)存技術(shù)和帶寬,提高了吞吐量,在不影響性能的情況下可連接多 GPU 以整合性能,并且具有可以輕松部署到整個數(shù)據(jù)中心的服務(wù)器設(shè)計。”
新平臺采用了 Grace Hopper 超級芯片,可以通過 NVIDIA NVLink 與其他超級芯片連接。
業(yè)界領(lǐng)先的制造商已在提供基于先前發(fā)布的 Grace Hopper 超級芯片所打造的系統(tǒng)。為了推動該技術(shù)的廣泛應(yīng)用,采用 HBM3e 的新一代 Grace Hopper 超級芯片平臺與今年早些時候在 COMPUTEX 上發(fā)布的 NVIDIA MGX 服務(wù)器規(guī)格完全兼容。借助 MGX,任何系統(tǒng)制造商都可以快速、經(jīng)濟地將 Grace Hopper 添加到 100 多款服務(wù)器機型中。
預(yù)計業(yè)界領(lǐng)先的系統(tǒng)制造商將于 2024 年第二季度開始交付搭載該平臺的系統(tǒng)。