美光再創(chuàng)行業(yè)里程碑,率先驗(yàn)證并出貨 128GB DDR5 32Gb 服務(wù)器 DRAM,滿足內(nèi)存密集型生成式 AI 應(yīng)用對(duì)速率和容量的嚴(yán)苛要求
Micron Technology Inc.(美光科技股份有限公司,納斯達(dá)克股票代碼:MU)近日宣布在業(yè)界率先驗(yàn)證并出貨基于大容量 32Gb 單塊 DRAM 芯片的128GB DDR5 RDIMM 內(nèi)存,其速率在所有主流服務(wù)器平臺(tái)上均高達(dá) 5,600 MT/s。該款 128GB DDR5 RDIMM 內(nèi)存采用美光行業(yè)領(lǐng)先的 1β(1-beta) 制程技術(shù),相較于采用 3DS 硅通孔(TSV)技術(shù)的競(jìng)品,容量密度提升 45% 以上,1能效提升高達(dá) 22%,2延遲降低高達(dá) 16%1。
美光與行業(yè)領(lǐng)先的廠商及客戶合作,推動(dòng)了這些高性能、大容量新模組在高吞吐量服務(wù)器 CPU 上的廣泛應(yīng)用。該款高速率內(nèi)存模組特別針對(duì)數(shù)據(jù)中心常見(jiàn)的任務(wù)關(guān)鍵型應(yīng)用,包括人工智能(AI)和機(jī)器學(xué)習(xí)(ML)、高性能計(jì)算(HPC)、內(nèi)存數(shù)據(jù)庫(kù)(IMDB)以及需要對(duì)多線程、多核通用計(jì)算工作負(fù)載進(jìn)行高效處理的場(chǎng)景,滿足它們的性能需求。美光 128GB DDR5 RDIMM 內(nèi)存模組獲得了強(qiáng)大的生態(tài)支持,包括 AMD、HPE、英特爾、Supermicro 等眾多公司。
美光副總裁暨計(jì)算產(chǎn)品事業(yè)群總經(jīng)理 Praveen Vaidyanathan 表示:“隨著該款產(chǎn)品批量出貨里程碑的達(dá)成,美光繼續(xù)引領(lǐng)市場(chǎng),為客戶提供通過(guò)各主流 CPU 平臺(tái)認(rèn)證的大容量 RDIMM。目前,AI 服務(wù)器可搭載美光的 24GB 8 層堆疊 HBM3E 作為 GPU 附加內(nèi)存,以及美光的 128GB RDIMM作為 CPU 附加內(nèi)存,從而提供內(nèi)存密集型工作負(fù)載所需的大容量、高帶寬及低功耗的基礎(chǔ)設(shè)施?!?/p>
行業(yè)應(yīng)用
AMD 高級(jí)副總裁暨服務(wù)器事業(yè)部總經(jīng)理 Dan McNamara 表示:“我們與美光合作的宗旨在于,通過(guò)高性能內(nèi)存來(lái)提升數(shù)據(jù)中心基礎(chǔ)設(shè)施的能力,以應(yīng)對(duì)計(jì)算密集型工作負(fù)載的需求。通過(guò)此次合作,我們共同的客戶可以在搭載 AMD EPYC(霄龍)CPU 的服務(wù)器上立即體驗(yàn)到美光大容量 DDR5 內(nèi)存帶來(lái)的顯著優(yōu)勢(shì),從而實(shí)現(xiàn)現(xiàn)代數(shù)據(jù)中心所需的性能和效率?!?/p>
HPE 高級(jí)副總裁兼主流計(jì)算總經(jīng)理 Krista Satterthwaite 表示:“在 AI 的訓(xùn)練、調(diào)優(yōu)及推理階段,采用先進(jìn)的內(nèi)存技術(shù),并同時(shí)確保高性能和高效率,對(duì)于支持不斷增長(zhǎng)的 AI 工作負(fù)載至關(guān)重要。我們致力于提供最高性能、低功耗的解決方案,并計(jì)劃通過(guò)與美光的合作,在我們的 AI 產(chǎn)品組合中全面采用單塊高密度 DRAM,幫助企業(yè)客戶獲得最佳性能,應(yīng)對(duì)各種工作負(fù)載。”
英特爾內(nèi)存與 IO 技術(shù)副總裁 Dimitrios Ziakas 博士表示:“美光 128GB DDR5 RDIMM 內(nèi)存是首款基于 32Gb 單塊 DRAM 芯片的大容量 DIMM 產(chǎn)品,已完成第四代和第五代英特爾? 至強(qiáng)? 處理器平臺(tái)上的內(nèi)存兼容性認(rèn)證。該款基于 32Gb 單塊 DRAM 芯片的 DDR5 內(nèi)存模組可加速關(guān)鍵服務(wù)器和 AI 系統(tǒng)配置,為基于英特爾? 至強(qiáng)? 處理器的系統(tǒng)帶來(lái)關(guān)鍵的性能、容量和最至關(guān)重要的能效優(yōu)勢(shì)。我們很高興繼續(xù)與美光合作,推動(dòng)創(chuàng)新產(chǎn)品在市場(chǎng)上的廣泛應(yīng)用,解決 AI 和服務(wù)器客戶面臨的內(nèi)存容量和能耗瓶頸問(wèn)題?!?/p>
Supermicro 聯(lián)合創(chuàng)始人兼業(yè)務(wù)發(fā)展高級(jí)副總裁 Wally Liaw表示:“Supermicro 基于英偉達(dá)、AMD 和英特爾打造業(yè)界最廣泛的加速服務(wù)器和解決方案組合,引領(lǐng)行業(yè)前行。有遠(yuǎn)見(jiàn)的客戶正致力于在 AI 基礎(chǔ)設(shè)施中實(shí)現(xiàn)大內(nèi)存空間、高性能和高效率的改進(jìn)。我們很高興與美光合作,共同實(shí)現(xiàn)這一突破。通過(guò)搭載全新基于 32Gb 單塊DRAM芯片的 128GB 內(nèi)存模組,Supermicro 先進(jìn)的 GPU SuperServers 將為客戶提供顯著的優(yōu)勢(shì)?!?/p>
美光 128GB DDR5 RDIMM 內(nèi)存模組已開(kāi)售,現(xiàn)可直接從美光購(gòu)買(mǎi),并將于 2024 年 6 月起通過(guò)全球部分渠道分銷(xiāo)商和經(jīng)銷(xiāo)商對(duì)外供應(yīng)。美光為數(shù)據(jù)中心提供全面的內(nèi)存產(chǎn)品組合,提供涵蓋 DDR5 RDIMM、MCRDIMM、MRDIMM、CXL 和 LPDDR5x 等外形規(guī)格的一系列內(nèi)存產(chǎn)品,助力客戶輕松集成這些優(yōu)化的解決方案,滿足 AI 和高性能計(jì)算(HPC)應(yīng)用對(duì)于高帶寬、大容量和低功耗的需求。