全新DDR5內(nèi)存架構(gòu)滿足AI時(shí)代存儲(chǔ)需求

在如今諸多移動(dòng)設(shè)備中，電源管理IC（PMIC）是最常見的芯片之一，它主要用于管理主機(jī)系統(tǒng)中的電源設(shè)備，將電池電壓轉(zhuǎn)換并分配到各個(gè)組件，就像人體的心臟向各個(gè)器官供血一樣。包括像攝像頭、顯示、移動(dòng)AP以及存儲(chǔ)器等器件都需要PMIC芯片的支持。

尤其隨著AI技術(shù)的發(fā)展，對(duì)于應(yīng)用于數(shù)據(jù)中心中的DDR存儲(chǔ)器提出了新的要求。Rambus產(chǎn)品營(yíng)銷副總裁John Eble表示：“目前，隨著基于大語(yǔ)言模型（LLM）生成式AI技術(shù)的不斷發(fā)展，它的功能也變得越來(lái)越強(qiáng)大，需要實(shí)現(xiàn)多模態(tài)輸入和輸出等功能，如給AI提供一段文字作為指令，AI產(chǎn)出的內(nèi)容可能是一張圖片；或者所輸入的指令是包含了圖片和文字的組合，而AI能夠提供的是一張有改進(jìn)的圖片；也有可能輸入的時(shí)是多張圖片和一段文字，而AI能夠產(chǎn)出一段視頻，所以當(dāng)這種多模態(tài)的輸入輸出功能被實(shí)現(xiàn)以后，生成式AI將有著無(wú)限的可能性?！?/p>

而為了實(shí)現(xiàn)這些功能，AI模型需要越來(lái)越多的數(shù)據(jù)量進(jìn)行訓(xùn)練，以O(shè)pen AI的ChatGPT為例，2022年發(fā)布的GPT-3使用了1750億個(gè)參數(shù)進(jìn)行訓(xùn)練；而在不久后，即2023年發(fā)布的GPT-4，它的訓(xùn)練參數(shù)量已經(jīng)大幅增長(zhǎng)至1.5萬(wàn)億個(gè)。

如此龐大的AI工作負(fù)載也對(duì)內(nèi)存帶寬和容量的需求大幅增長(zhǎng)，尤其在AI訓(xùn)練階段，主內(nèi)存的容量需求通常需要是GPU內(nèi)存容量的兩倍，并且還有一個(gè)額外的需求，就是這部分的主內(nèi)存也必須有著非常高的帶寬。只有這樣，才能讓GPU本地內(nèi)存滿足這個(gè)數(shù)據(jù)的吞吐速度。

基于此，DDR內(nèi)存也進(jìn)行了架構(gòu)更新，新一代的DDR內(nèi)存產(chǎn)品DDR5，它相較于前一代的DDR4最大的變化就是將PMIC芯片放在了DDR5內(nèi)存條上。

John Eble表示：“在DDR4之前，PMIC芯片都集成在主板上，而到DDR5，將PMIC芯片放置在了DIMM端。這種改變帶來(lái)了諸多優(yōu)勢(shì)，一是不僅可以節(jié)省主板空間，而且不再需要設(shè)計(jì)來(lái)自主板的電壓調(diào)節(jié)對(duì)內(nèi)存模塊的支持；

二是由內(nèi)存模組上的PMIC向模組提供輸入高壓12V電源，避免通過(guò)模塊連接器從主板向內(nèi)存模組組件輸出如1V的電壓，大大降低了輸電網(wǎng)絡(luò)上的IR下降問(wèn)題；

三是為DIMM上的敏感元件提供了更嚴(yán)格的電容容差，幫助實(shí)現(xiàn)更高的DDR5目標(biāo)性能水平。”

那為何需要做這一改變呢？John Eble解釋道：“這與DDR5采用的全新架構(gòu)有關(guān)。相較于DDR4，DDR5已經(jīng)開始轉(zhuǎn)移到了雙通道架構(gòu)，如下圖中的雙通道RCD在主機(jī)端以DDR5速度運(yùn)行。因此，它的運(yùn)行速度與DRAM相同。圖中每個(gè)引腳的開關(guān)頻率將比DDR4高出一倍多。DDR5的每通道最高頻率速度達(dá)到8400MT/s（最高可達(dá)8800MT/s）。

因此，更高的數(shù)據(jù)傳輸速率（裕度至關(guān)重要）、所有這些數(shù)據(jù)信號(hào)所需的連接器引腳數(shù)量的增加以及主電源電壓從1-1.2伏降至1.1伏，這些因素共同促使我們決定采用專用的電源管理IC，幫助控制更加精細(xì)的電壓?！?/p>

DDR5和DDR4 RDIMM架構(gòu)對(duì)比

因此，Rambus近期推出了全新的DDR5服務(wù)器PMIC系列，支持廣泛的數(shù)據(jù)中心用例。據(jù)John Eble介紹，Rambus DDR5服務(wù)器PMIC系列包含了符合JEDEC超高電流（PMIC5020）、高電流（PMIC5000）和低電流（PMIC5010）規(guī)范的三款產(chǎn)品。

其中，PMIC5020將使未來(lái)幾代DDR5 RDIMM的性能和容量達(dá)到新的基準(zhǔn)。Rambus的這一PMIC芯片系列與其DDR5 RCD、SPD Hub個(gè)溫度傳感器IC一起組成了一個(gè)完整的內(nèi)存接口芯片組，適用于各種DDR5 RDIMM配置和用例，也就是為RDIMM制造商提供“一站式”的解決方案。

另?yè)?jù)John Eble介紹，極高電流的PMIC 5020目標(biāo)是約30安培的最大持續(xù)直流電流，是這三種服務(wù)器PMIC中最新定義的。Rambus也是首家提供樣品的公司。

高電流PMIC 5000一直是主要的PMIC，支持的最大持續(xù)直流電流大約為20安培。這款特定的PMIC針對(duì)標(biāo)準(zhǔn)到四階模塊，容量為64GB、96GB和128GB。低電流PMIC 5010面向容量較低的市場(chǎng)，它支持的最大持續(xù)電流約為12安培。

另外Rambus的DDR5產(chǎn)品也已經(jīng)通過(guò)所有3家主要DRAM供應(yīng)商的認(rèn)證，RDIMM制造商不需要再進(jìn)行重新驗(yàn)證，節(jié)省了產(chǎn)品開發(fā)時(shí)間，加快了產(chǎn)品的上市時(shí)間。

當(dāng)然，將PMIC集成到內(nèi)存條上也面臨著一些設(shè)計(jì)挑戰(zhàn)。John Eble表示，首先是散熱問(wèn)題。PMIC會(huì)產(chǎn)生熱量，而且它靠近對(duì)熱非常敏感的DRAM芯片，這是一個(gè)問(wèn)題。因此，進(jìn)行熱模擬并確保熱量以一種不會(huì)影響模塊的方式消散，這一點(diǎn)非常重要。

第二個(gè)設(shè)計(jì)挑戰(zhàn)實(shí)際上是如何將PMIC及其無(wú)源元件安裝在模塊上，因?yàn)槟K的尺寸是固定的，而且模塊上已經(jīng)有很多元器件了。因此，為PMIC騰出空間，確保其功率完整性達(dá)到最佳狀態(tài)，并確保其不會(huì)造成任何干擾或散熱問(wèn)題，這是一個(gè)很大的挑戰(zhàn)。

第三個(gè)挑戰(zhàn)是確保PMIC上的開關(guān)穩(wěn)壓器不會(huì)將任何不需要的噪聲引入DIMM的其他部分。

最后一個(gè)設(shè)計(jì)挑戰(zhàn)是需要確保PMIC芯片可靠且強(qiáng)大?，F(xiàn)在PMIC位于可維修模塊上，它可能會(huì)經(jīng)歷某些壓力條件，如將模塊插入插座或?qū)⑵浒纬鰰r(shí)，需要進(jìn)行插拔操作，這可能會(huì)影響到PMIC芯片。

AI時(shí)代的來(lái)臨，為諸多行業(yè)帶來(lái)了變革，內(nèi)存作為關(guān)鍵組件之一，也不例外。在模塊上安裝PMIC就是一個(gè)顯著的變化，John Eble表示，這遵循了微電子行業(yè)將供電設(shè)備盡可能靠近使用點(diǎn)的趨勢(shì)，但DDR5內(nèi)存模塊是第一個(gè)在內(nèi)存模塊上集成PMIC的主要內(nèi)存類型。未來(lái)，隨著對(duì)更高性能和電源效率的需求不斷增長(zhǎng)，可能會(huì)定義新型內(nèi)存模塊。而且，這些模塊很有可能會(huì)繼續(xù)在模塊上集成PMIC，以進(jìn)一步優(yōu)化電源管理并提高整體系統(tǒng)性能。