巨頭領(lǐng)跑，HBM進(jìn)入第四代

人工智能/機(jī)器學(xué)習(xí)、高性能計(jì)算、數(shù)據(jù)中心等應(yīng)用市場興起，催生高帶寬內(nèi)存HBM(High Bandwidth Memory）并推動(dòng)著其向前走更新迭代。如今，HBM來到第四代，盡管固態(tài)存儲(chǔ)協(xié)會(huì)（JEDEC）尚未發(fā)布推出HBM3的相關(guān)規(guī)范，產(chǎn)業(yè)鏈各廠商已早早布局。

1、內(nèi)存/IP廠商布局HBM3

10月20日，SK海力士宣布業(yè)界首次成功開發(fā)現(xiàn)有最佳規(guī)格的HBM3 DRAM。這是SK海力士去年7月開始批量生產(chǎn)HBM2E DRAM后，時(shí)隔僅1年零3個(gè)月開發(fā)了HBM3。

據(jù)了解，SK海力士研發(fā)的HBM3可每秒處理819GB的數(shù)據(jù)，相當(dāng)于可在一秒內(nèi)傳輸163部全高清（Full-HD）電影（每部5GB），與上一代HBM2E相比，速度提高了約78%；內(nèi)置ECC校檢（On Die-Error Correction Code），可自身修復(fù)DRAM單元的數(shù)據(jù)的錯(cuò)誤，產(chǎn)品可靠性大幅提高。

圖片來源：SK海力士官網(wǎng)

SK海力士HBM3將以16GB和24GB兩種容量上市。據(jù)悉，24GB是目前業(yè)界最大的容量，為了實(shí)現(xiàn)24GB，SK海力士技術(shù)團(tuán)隊(duì)將單品DRAM芯片的高度磨削到約30微米（μm, 10-6m），相當(dāng)于A4紙厚度的1/3，然后使用TSV技術(shù)（Through Silicon Via，硅通孔技術(shù)）垂直連接12個(gè)芯片。

隨著SK海力士成功開發(fā)HBM3，HBM開始挺進(jìn)3.0時(shí)代，IP廠商亦已先行布局HBM3。

10月7日，Synopsys宣布推出業(yè)界首個(gè)完整的HBM3 IP解決方案，包括用于2.5D多芯片封裝系統(tǒng)的控制器、PHY和驗(yàn)證IP。據(jù)了解，Synopsys的DesignWare HBM3控制器與PHY IP基于經(jīng)芯片驗(yàn)證過的HBM2E IP打造，而HBM3 PHY IP基于5nm制程打造，每個(gè)引腳的速率可達(dá)7200 Mbps，內(nèi)存帶寬最高可提升至921GB/s。

值得一提的是，在Synopsys的新聞稿中，SK海力士、三星電子、美光等內(nèi)存廠商均表示將致力于開發(fā)HBM3內(nèi)存。

除了Synopsys，今年8月美國內(nèi)存IP核供應(yīng)商Rambus宣布推出其支持HBM3的內(nèi)存接口子系統(tǒng)，內(nèi)含完全集成的PHY和數(shù)字控制器，數(shù)據(jù)傳輸速率達(dá)8.4 Gbps，可提供超過1TB/s的帶寬，是HBM2E內(nèi)存子系統(tǒng)的兩倍以上。Rambus預(yù)計(jì)，其HBM3內(nèi)存將于2022年末或2023年初流片，實(shí)際應(yīng)用于數(shù)據(jù)中心、AI、HPC等領(lǐng)域。

圖片來源：Rambus

而更早些時(shí)候，中國臺(tái)灣地區(qū)的創(chuàng)意電子于6月發(fā)布基于臺(tái)積電CoWoS技術(shù)的AI/HPC/網(wǎng)絡(luò)平臺(tái)，搭載7.2Gbps HBM3控制器。

2、三星電子另辟蹊徑？

三星電子雖然目前尚未發(fā)布HBM3，但從披露的信息來看，其在HBM方面亦正持續(xù)發(fā)力。

今年2月，三星電子發(fā)布其集成AI處理器新一代芯片HBM-PIM（processing-in-memory），可提供最高達(dá)1.2 TFLOPS的嵌入式計(jì)算能力，從而使內(nèi)存芯片本身能夠執(zhí)行通常由CPU、GPU、ASIC或FPGA處理的工作。在這款HBM-PIM芯片中，三星電子利用PIM技術(shù)，將AI處理器搭載于HBM2 Aquabolt中，可提升兩倍性能，同時(shí)將功耗降低70%以上。

據(jù)介紹，HBM-PIM芯片將AI引擎引入每個(gè)存儲(chǔ)庫，從而將處理操作轉(zhuǎn)移到HBM本身。這種新型內(nèi)存的設(shè)計(jì)是為了減輕內(nèi)存與一般處理器之間轉(zhuǎn)移數(shù)據(jù)的負(fù)擔(dān)，因?yàn)閷?shí)際應(yīng)用中，這種負(fù)擔(dān)無論在功耗還是時(shí)間上，往往比真正的計(jì)算操作消耗更大。三星還表示，使用這種新內(nèi)存不需要任何軟件或硬件變化（包括內(nèi)存控制器），從而可以被市場更快地采用。

圖片來源：三星電子

對(duì)于HBM而言，三星電子的HBM-PIM提供了另一種方式，不過按照三星電子在Synopsys的新聞稿中所表達(dá)的態(tài)度，三星電子也將繼續(xù)推進(jìn)開發(fā)HBM3。

此外，三星電子5月宣布開發(fā)出能將邏輯芯片（Logic Chip）和4顆HBM封裝在一起的新一代2.5D封裝技術(shù)“I-Cube4”，該技術(shù)可用于高性能計(jì)算（HPC）、AI、5G、云、數(shù)據(jù)中心等各種領(lǐng)域。據(jù)悉，三星目前也正在開發(fā)更先進(jìn)、更復(fù)雜的I-Cube6，可同時(shí)封裝6顆HBM以及更復(fù)雜的2.5D/3D混合封裝技術(shù)。

3、從GPU到CPU全面擁抱？

在內(nèi)存/IP廠商在HBM領(lǐng)域的升級(jí)競賽持續(xù)進(jìn)行的同時(shí)，HBM正在得到更多應(yīng)用，主要廠商包括如AMD、英偉達(dá)、英特爾等。

AMD和英偉達(dá)兩大顯卡廠商曾多次在其產(chǎn)品上采用HBM。據(jù)了解，AMD當(dāng)初攜手SK海力士研發(fā)HBM，并在其Fury顯卡采用全球首款HBM；2017年AMD旗下Vega顯卡使用HBM 2；2019年AMD Radeon VII顯卡搭載的亦為HBM2。

英偉達(dá)方面，其2016年發(fā)布的首個(gè)采用帕斯卡架構(gòu)的顯卡Tesla P100就搭載了HBM2，包括后面的Tesla V100也采用了HBM2；2017年初，英偉達(dá)發(fā)布的Quadro系列專業(yè)卡中的旗艦GP100亦采用了HBM2；2020年5月，英偉達(dá)推出的Tesla A100計(jì)算卡也搭載了容量40GB HBM2；今年6月，英偉達(dá)升級(jí)了A100 PCIe GPU加速器，配備80GB HBM2e顯存。

而英特爾更是將在其兩款新品中用到HBM。

今年8月，英特爾在其架構(gòu)日上介紹基于Xe HPC微架構(gòu)的全新數(shù)據(jù)中心GPU架構(gòu)Ponte Vecchio。Ponte Vecchio芯片由幾個(gè)以單元顯示的復(fù)雜設(shè)計(jì)構(gòu)成，包括計(jì)算單元、Rambo單元、Xe鏈路單元以及包含高速HBM內(nèi)存的基礎(chǔ)單元。基礎(chǔ)單元是所有復(fù)雜的I/O和高帶寬組件與SoC基礎(chǔ)設(shè)施——PCIe Gen5、HBM2e內(nèi)存、連接不同單元MDFI鏈路和EMIB橋接。

英特爾也將HBM用在其下一代服務(wù)器CPU Sapphire Rapids上。據(jù)英特爾介紹，在內(nèi)存方面，Sapphire Rapids除了支持DDR5和英特爾@傲騰™內(nèi)存技術(shù)，還提供了一個(gè)產(chǎn)品版本，該版本在封裝中集成了HBM技術(shù)，可在HPC、AI、機(jī)器學(xué)習(xí)和內(nèi)存數(shù)據(jù)分析工作負(fù)載中普遍存在的密集并行計(jì)算中實(shí)現(xiàn)高性能。

近期外媒消息稱，一名工程師曝光了英特爾Sapphire Rapids的照片，曝光的照片顯示，Sapphire Rapids封裝了四顆CCD核心，每顆核心旁均配備兩片長方形的HBM內(nèi)存芯片。爆料者表示這可能是HBM2E，每顆處理器核心將具備兩條1024位內(nèi)存總線。

值得一提的是，今年7月外媒消息稱，AMD正在研發(fā)代號(hào)為Genoa的下一代EPYC霄龍服務(wù)器處理器，采用Zen 4架構(gòu)。這一處理器將首次配備HBM內(nèi)存，目的是與英特爾下一代服務(wù)器CPU Sapphire Rapids競爭。

若消息屬實(shí)，那英特爾和AMD均將在CPU上采用HBM，這也意味著HBM的應(yīng)用不再局限于顯卡，其在服務(wù)器領(lǐng)域的應(yīng)用將有望更加廣泛。

4、未來仍有很長的路要走

HBM主要是通過TSV技術(shù)進(jìn)行芯片堆疊，以增加吞吐量并克服單一封裝內(nèi)帶寬的限制，將數(shù)個(gè)DRAM裸片像摩天大廈中的樓層一樣垂直堆疊，裸片之間用TVS技術(shù)連接。

憑借TSV方式，HBM大幅提高了容量和數(shù)據(jù)傳輸速率，與傳統(tǒng)內(nèi)存技術(shù)相比，HBM具有更高帶寬、更多I/O數(shù)量、更低功耗、更小尺寸，可應(yīng)用于高性能計(jì)算（HPC）、超級(jí)計(jì)算機(jī)、大型數(shù)據(jù)中心、人工智能/深度學(xué)習(xí)、云計(jì)算等領(lǐng)域。

回顧HBM性能的歷史演進(jìn)，第一代HBM數(shù)據(jù)傳輸速率大概可達(dá)1Gbps；2016年推出的第二代產(chǎn)品HBM2，最高數(shù)據(jù)傳輸速率可達(dá)2Gbps；2018年，第三代產(chǎn)品HBM2E的最高數(shù)據(jù)傳輸速率已經(jīng)可達(dá)3.6Gbps。如今，SK海力士已研發(fā)出第四代產(chǎn)品HBM3，此后HBM3預(yù)計(jì)仍將持續(xù)發(fā)力，在數(shù)據(jù)傳輸速率上有更大的提升。

從性能來看，HBM無疑是非常出色的，其在數(shù)據(jù)傳輸?shù)乃俾省捯约懊芏壬隙加兄薮蟮膬?yōu)勢。不過，目前HBM仍主要應(yīng)用于數(shù)據(jù)中心等應(yīng)用領(lǐng)域，主要在于服務(wù)器市場，其最大的限制條件在于成本，對(duì)成本比較敏感的應(yīng)用領(lǐng)域如消費(fèi)級(jí)市場而言，HBM的使用門檻仍較高。據(jù)了解，HBM所采用2.5封裝/3D堆疊技術(shù)是其成本偏高的重要原因。

盡管HBM已更迭到第四代，但正如Rambus IP核產(chǎn)品營銷高級(jí)總監(jiān)Frank Ferro此前在接受采訪時(shí)所言，HBM現(xiàn)在依舊處于相對(duì)早期的階段，其未來還有很長的一段路要走。而可預(yù)見的是，隨著越來越多的廠商在人工智能/機(jī)器學(xué)習(xí)等領(lǐng)域不斷發(fā)力，內(nèi)存產(chǎn)品設(shè)計(jì)的復(fù)雜性正在快速上升，并對(duì)帶寬提出了更高的要求，不斷上升的寬帶需求將持續(xù)驅(qū)動(dòng)HBM發(fā)展。

2021年，芯片產(chǎn)能緊缺席卷全球，半導(dǎo)體產(chǎn)業(yè)迎來結(jié)構(gòu)性轉(zhuǎn)變，存儲(chǔ)行業(yè)亦面臨著巨大的機(jī)遇和挑戰(zhàn)。面對(duì)發(fā)展良機(jī)與各種不確定性因素，國內(nèi)外存儲(chǔ)企業(yè)該如何把握機(jī)遇實(shí)現(xiàn)突圍？存儲(chǔ)技術(shù)演進(jìn)又將迎來哪些新趨勢？