這顆博通芯片，漲到14萬

AI 賽道人滿為患，眼看AI服務(wù)器里最燒錢的GPU都齊了，但竟然會(huì)因?yàn)椤叭毙尽?，?dǎo)致無法出貨。

“海外找了一千片，還沒湊齊，太難了?！薄拔覀冋夜?yīng)商采購AI服務(wù)器，就因?yàn)橹靼迦绷?a class="article-link" target="_blank" href="/manufacturer/1000428/">博通的PCle Switch 4.0芯片，沒法安排出貨，現(xiàn)在他們正在到處找?！?/p>

以博通SS26為代表的PCle Switch芯片，最近需求異常多，不僅現(xiàn)貨少，報(bào)價(jià)還從5500美元飆到20000美元！也難怪AI服務(wù)器會(huì)漲價(jià)，一入AI深似海，原來不止是GPU價(jià)格在漲……

1、博通SS26，為什么這么搶手？

2、為什么缺？有替代嗎？

3、AI服務(wù)器還帶動(dòng)哪些芯片增長？

博通SS26價(jià)格漲至2萬美元

AI相關(guān)GPU和服務(wù)器缺貨潮還在持續(xù)發(fā)酵，英偉達(dá)、AMD等GPU大廠持續(xù)加單，而大模型下AI服務(wù)器集眾多硬件與零部件于一身，GPU這頭的短缺還在填補(bǔ)，另一頭又開始短缺，你永遠(yuǎn)不知道下一個(gè)缺的又是什么部件。

今年6月初開始，博通的PCle Switch在市場(chǎng)上就有了缺貨跡象。

相關(guān)型號(hào)包括博通SS26、SS24、SS23打頭的芯片，詢價(jià)熱度較高，市場(chǎng)上找貨需求異常多，如SS26-0B00-02、SS24-0B00-02、SS23-0B00-02，其中SS26規(guī)格高，最為缺貨，規(guī)格低一些的SS24、SS23雖然沒那么缺，也有不少人在找貨。

關(guān)于高端的SS26-0B00-02市場(chǎng)價(jià)格，業(yè)內(nèi)人士告訴我們，目前其香港原裝報(bào)價(jià)是5500 USD/ 片（26片起購），到了深圳現(xiàn)貨市場(chǎng)，報(bào)價(jià)高達(dá)1.8萬-2萬 USD/片（含稅），還不保證原裝。

芯世相觀察到，某些型號(hào)帶目標(biāo)價(jià)格也不一定能挖到現(xiàn)貨。比如SS23-0B00-02，有終端在海內(nèi)外到處找貨，接受5000元單價(jià)，急需現(xiàn)貨。

以上芯片型號(hào)，都屬于博通PEX89000 PCIe Gen 5.0系列交換機(jī)，目前是其針對(duì)數(shù)據(jù)中心和云平臺(tái)的PCI快速交換機(jī)中的最新系列產(chǎn)品，應(yīng)用于 ML/AI 和服務(wù)器/存儲(chǔ)應(yīng)用的可組合超大規(guī)模計(jì)算系統(tǒng)。

規(guī)格最高的SS26-0B00-00具有144個(gè)PCIe Gen 5.0通道，可實(shí)現(xiàn)高達(dá)9216 Tb/s（1152 GB/s）的原始帶寬。

因而博通的PEX89000系列交換機(jī)，可以說是為先進(jìn)計(jì)算而生的AI芯片了。

博通PEX89000 PCIe Gen 5.0系列交換機(jī)型號(hào)，來源：broadcom.com

PCle（PCI-Express，peripheral component interconnect express），即外圍組件快速互連，是一種高帶寬擴(kuò)展總線。簡單來說，總線就是電腦內(nèi)部進(jìn)行交互的公用通道，可以理解為各種交通道路，PCle就是其中的一種。

如果大家有自己裝機(jī)的經(jīng)歷，就會(huì)在主板上看到水平的PCle插槽。

PCle通常用于連接顯卡、固態(tài)硬盤以及采集卡和無線網(wǎng)卡等外設(shè)，也常用于服務(wù)器平臺(tái)，也越來越多地被用作存儲(chǔ)和GPU互連解決方案。

主板上的PCle通道分為x1、x2、x4、x8 和x16幾種配置，通道數(shù)量越多意味著帶寬越高，插槽也就更長。我們組裝電腦時(shí)，GPU就通常安在x16插槽中。

PCle既可以作為接口，又可以作為通道。當(dāng)它是接口的時(shí)候，可以插帶PCle接口的任何外設(shè)：顯卡、無線網(wǎng)卡、USB接口、固態(tài)硬盤、聲卡等等，這個(gè)插槽里面，就有我們的PCle Switch芯片。

PCIe Switch，即 PCIe 開關(guān)或 PCIe 交換機(jī)，主要作用是實(shí)現(xiàn) PCIe 設(shè)備互聯(lián)，像服務(wù)器要實(shí)現(xiàn)CPU、GPU等組件互聯(lián)，就離不開它。

有了PCle Switch，PCle從端對(duì)端的連接，變成多條總線連接，有效拓展了鏈路，形成一個(gè)高速的PCIe互聯(lián)網(wǎng)絡(luò)，從而實(shí)現(xiàn)多設(shè)備通信。

PCle Switch的高可拓展性、低功耗、低延遲、高可靠性、高靈活性等優(yōu)勢(shì)，使之廣泛應(yīng)用于機(jī)器學(xué)習(xí)、人工智能、超融合部署和存儲(chǔ)系統(tǒng)中。

PCIe Switch連接多條PCIe總線，來源：PCI-SIG官網(wǎng)，中金公司研究部

計(jì)算機(jī)內(nèi)部包含PCle等各種總線協(xié)議，讓我們拆開一臺(tái)AI服務(wù)器內(nèi)部看看。

以 NVIDIA HGX H100 8-GPU為例，8 塊 H100 GPU在全新的 FP8 精度下 AI 性能比上一代高 6 倍，可提供 900GB/s 的帶寬，該服務(wù)器內(nèi)部包含NVLink、PCIe和QPI等主板總線。

NVLink方面，8張 GPU（H100）之間互聯(lián)主要通過4個(gè)第三代NV Switch 芯片來實(shí)現(xiàn)。每個(gè)H100 GPU共通過18個(gè)NVLink 4.0（5+4+4+5）連接到4個(gè)NVSwitch芯片。每個(gè)NVSwitch相當(dāng)于一個(gè)完全無擁塞的交換機(jī)，與8張H100 GPU卡實(shí)現(xiàn)完全連接。

NVLink是英偉達(dá)基于PCle Gen4研發(fā)的新技術(shù)，是點(diǎn)對(duì)點(diǎn)的高速互聯(lián)技術(shù)，支持多達(dá) 16 個(gè) GPU 或 CPU 的連接，可實(shí)現(xiàn)大規(guī)模的并行計(jì)算和深度學(xué)習(xí)訓(xùn)練。

英偉達(dá)A100、H100等GPU可以分PCle和NVLink兩種版本，GPU互聯(lián)時(shí)用的是不同通道。PCle版本的GPU互聯(lián)便是通過PCIe通道完成的，借助PCIe switch，系統(tǒng)可以實(shí)現(xiàn)CPU-GPU，GPU-GPU的連接。

多個(gè)GPU之間連接，PCIe僅64GB/S，4個(gè)以上的GPU互聯(lián)就較為吃力了。隨著AI和高性能計(jì)算需求不斷增長，需要更大的互聯(lián)帶寬，NVLink的帶寬是雙向帶寬，如NVLink 3.0的帶寬可以達(dá)到7200 Gbit/s，即900 GB/s，明顯優(yōu)于PCIe，而且在每GPU連接數(shù)量上限也高達(dá)18張，GPU的性能就可以發(fā)揮到最大化，這也就是為啥黃老板說買得越多省越多。

PCle方面，GPU與CPU之間通過PCIe 5.0總線實(shí)現(xiàn)互聯(lián)。圖中藍(lán)色方塊為 IP 網(wǎng)卡（CX7），既是網(wǎng)卡又能發(fā)揮PCIe Switch（5.0）擴(kuò)展功能，成為 CPU 與H100（GPU）之間互聯(lián)的橋梁。CPU之間則仍使用QPI總線進(jìn)行通信。

可以看出，一臺(tái)AI服務(wù)器要實(shí)現(xiàn)GPU-CPU互聯(lián)，甚至是GPU之間的互聯(lián)，都離不開PCIe Switch芯片。來自博通SS26等芯片的需求普遍集中在服務(wù)器終端，它們也正是用于AI服務(wù)器的PCle Switch芯片。

“AI服務(wù)器要PCle 4.0、5.0及以上版本，做這類產(chǎn)品的廠商少，價(jià)格很貴?！币晃环?wù)器專業(yè)人士告訴我們。

為什么缺，有替代嗎？

伴隨著AI 服務(wù)器、GPU等需求的增加，作為連接部件的PCle Switch需求也起來了。目前用于AI服務(wù)器的4.0、5.0版本屬于PCle Switch中的先進(jìn)版本。專業(yè)人士告訴我們，PCle Switch要看其支持的Lanes和Ports，參數(shù)越高，價(jià)格越貴。

PCIe最早由Intel于2001年提出，2003年正式推出PCIe 1.0版本，到2022年已迭代至6.0。根據(jù)PCI-SIG官網(wǎng)，伴隨人工智能、自動(dòng)駕駛、AR/VR等具有高運(yùn)算要求的應(yīng)用快速發(fā)展，處理器I/O帶寬每三年實(shí)現(xiàn)翻番，也促使PCIe基本上按照3年一代的速度更新演進(jìn)。

PCle基本上平均每3年更新一代，其單通道速率都在翻倍增長，總帶寬也在提高。2022年P(guān)CI-SIG 正式發(fā)布PCIe 6.0 規(guī)范，這是PCIe問世以來變化最大的一代，每通道數(shù)據(jù)傳輸速率從PCIe 5.0的32GT/s翻番至64GT/s，除了帶寬和效率的提升，還具有更低的延遲。2022年6月，PCI-SIG聯(lián)盟宣布PCIe 7.0版規(guī)范，單條通道（x1）單向可實(shí)現(xiàn)128GT/s傳輸速率，計(jì)劃于2025年推出最終版本。

別看PCIe 7.0版規(guī)范都出來了，博通的PCle Switch 5.0最近也被大家到處掃貨，但業(yè)內(nèi)人士告訴我們，市場(chǎng)上對(duì)PCIe 5.0的需求實(shí)際上還沒起來，“其一是目前大規(guī)模出貨的CPU基本是PCIe 4.0，其二是英偉達(dá)A100/A800和國產(chǎn)GPU、NPU等也都是PCIe 4.0?！?/p>

目前用量大的仍是高端PCIe 4.0，且缺貨比較嚴(yán)重，在現(xiàn)貨市場(chǎng)，原來單價(jià)2000-3000 RMB現(xiàn)在漲到大幾千，甚至1萬元，供貨周期變長很多。而低端4.0產(chǎn)品需求越來越少，普通服務(wù)器為實(shí)現(xiàn)更大靈活度也往中高端走，供貨渠道不多，供貨周期也變長了，但價(jià)格只要小幾千元。

因此博通PCle Switch 5.0這類芯片的起量還沒那么快，“預(yù)計(jì)國內(nèi)要在2024年下半年起量，到時(shí)候CPU才基本升級(jí)到PCIe 5.0。另外，英偉達(dá)H800也支持5.0版本，一些加速卡應(yīng)該會(huì)加入到5.0生態(tài)。”

那么一臺(tái)AI服務(wù)器要用多少PCle Switch芯片，用量有多大？

我們從前文對(duì)AI服務(wù)器的內(nèi)部拆解可以看出，CPU和GPU之間互聯(lián)的需求量不多，主要的用量在GPU之間的互聯(lián)。

如果你用的是A100 80G PCIE的8卡AI服務(wù)器，這里面8張A100互聯(lián)可能就要用到大量的PCle Switch，而NVLink版本的帶寬升級(jí)更大，GPU之間不用PCle Switch。

不過，NVLink僅用于GPU之間，最終傳輸結(jié)果給GPU還是走PCle，“目前服務(wù)器都還是X86架構(gòu)，所以基本都是PCle的IP，Intel本身并未支持NVLink?！盋PU與GPU互聯(lián)離不開PCle Switch。

帶寬的高低，也是決定PCle Switch用量的重要因素，“還要看主帶寬是多少，比如它里面做了一個(gè)PCIe 5.0，64x，也就是說它可以同時(shí)產(chǎn)生64路PCle 5.0的x1（帶寬），那需求量就極大了。”

全球PCle Switch三大供應(yīng)商，博通、微芯、祥碩科技三家，共占有全球約58%的份額。據(jù)博通官網(wǎng)介紹，博通是PCI Express交換領(lǐng)域的領(lǐng)導(dǎo)者，出貨量超過10 億個(gè)，公司正通過行業(yè)領(lǐng)先的交換機(jī)系列以及新的重定時(shí)器解決方案推動(dòng)數(shù)據(jù)中心連接的發(fā)展。

如果要替換這顆博通芯片，目前可替代的微芯也面臨缺貨，而國產(chǎn)即便有替代，國外主板廠一般也不采用。據(jù)悉，美國一家新公司xconn-technology剛推出樣品，明年這時(shí)候就有對(duì)應(yīng)產(chǎn)品上市。

隨著PCIe 在服務(wù)器中應(yīng)用越來越廣泛，PCIe Switch 的市場(chǎng)需求也被帶動(dòng)起來。根據(jù)QYResearch的統(tǒng)計(jì)及預(yù)測(cè)，2021年全球 PCIe 芯片市場(chǎng)銷售額達(dá)到了 7.9 億美元，預(yù)計(jì)2028年將達(dá)到 18 億美元，年復(fù)合增長率（CAGR）為 11.9%。

我們知道，除了蘋果，英偉達(dá)、博通和AMD最近乘著AI熱潮都在臺(tái)積電積極投片生產(chǎn)。

這波博通PCIe Switch熱，與英偉達(dá)用于AI服務(wù)器的GPU缺貨邏輯基本一致，那就是尚未實(shí)現(xiàn)大規(guī)模出貨，近期才追加擴(kuò)產(chǎn)，一段時(shí)間內(nèi)面臨供應(yīng)不足。

博通也是受益于AI時(shí)代來臨的芯片大廠之一，除了與蘋果持續(xù)合作外，博通還陸續(xù)獲得了谷歌、Meta 等大廠的高級(jí) ASIC 芯片訂單。博通作為通信巨頭，這些訂單估計(jì)包括了PCIe Switch在內(nèi)的不少通信相關(guān)AI芯片。

博通FY23Q2財(cái)報(bào)顯示，博通目前AI營收占半導(dǎo)體營收約15%，預(yù)計(jì)FY24提升至25%；與其他芯片廠商相比，博通在2-4月的單季營收同比增長了 8%，芯片業(yè)務(wù)表現(xiàn)超出市場(chǎng)預(yù)期。

博通還表示，AI相關(guān)部分產(chǎn)品從生產(chǎn)到交付需要超過6個(gè)月。博通CEO認(rèn)為，未來傳統(tǒng)計(jì)算與AI計(jì)算會(huì)齊頭并進(jìn)，AI增長更快，傳統(tǒng)計(jì)算不會(huì)消亡，未來增長一半來自傳統(tǒng)業(yè)務(wù)，一半來自AI。

結(jié) 語

據(jù)報(bào)道，AI服務(wù)器將大幅推升服務(wù)器平均出貨單價(jià)（ASP）由8500至9000美元上漲到1萬美元以上，AI服務(wù)器主要集中在今年第四季大量出貨。

AI訓(xùn)練的龐大數(shù)據(jù)，需要在各芯片之間高速無擁塞互聯(lián)。英偉達(dá)自己的NVLink、NVSwitch市場(chǎng)規(guī)模有限，而傳統(tǒng)CPU生態(tài)中的PCIe接口芯片及其他高速互聯(lián)芯片市場(chǎng)相對(duì)開放，PCIe Switch作為數(shù)據(jù)中心低功耗、高性能解決方案的核心一環(huán)，有望迎來高增長。根據(jù)Transparency市場(chǎng)調(diào)研機(jī)構(gòu)數(shù)據(jù)，2019-2027年CAGR約15%，2027年全球PCIe Switch市場(chǎng)規(guī)?；?qū)⑦_(dá)到92億美元。

除了PCle Switch，AI服務(wù)器需求帶動(dòng)服務(wù)器產(chǎn)業(yè)鏈上各環(huán)節(jié)價(jià)值增長，業(yè)內(nèi)人士測(cè)算，相較普通雙路服務(wù)器，AI服務(wù)器核心器件單機(jī)價(jià)值量提升倍數(shù)由高到低依次為GPU（24x）、DRAM（5.3x）、板內(nèi)互聯(lián)接口芯片（3.3x）、電源管理（3x）、散熱（3x）、PCB（2.4x）、網(wǎng)卡（2.2x）和SSD（2x）。

普通和AI服務(wù)器價(jià)值量拆解及對(duì)比、AI服務(wù)器不同出貨量假設(shè)下各環(huán)節(jié)的市場(chǎng)規(guī)模測(cè)算，來源：IDC，英偉達(dá)，中金公司研究部

AI需求強(qiáng)勁，但需要看清的是，AI不足以撐起整個(gè)半導(dǎo)體行業(yè)的增長，近期晶圓代工廠們降價(jià)、熱停機(jī)動(dòng)作亮起警示燈，目前半導(dǎo)體行業(yè)仍處于消費(fèi)電子需求低迷陰影之下，復(fù)蘇緩慢。

以博通為代表的高端AI芯片市場(chǎng)，同樣是個(gè)玩家有限的小池子，它的稀缺與漲價(jià)反映一段時(shí)間內(nèi)高端AI芯片供不應(yīng)求，對(duì)于芯片市場(chǎng)多數(shù)從業(yè)者來說，行情尚在緩慢復(fù)蘇，可遇而不可求，唯有繼續(xù)積極開發(fā)新產(chǎn)品、新技術(shù)、新客戶，找到新的增長點(diǎn)，才是以不變應(yīng)萬變的關(guān)鍵所在。