2880
作者：九林
最近，有消息傳出英偉達正在建立一個新的業(yè)務部門，這個部門專注為云計算公司和其他公司設計定制芯片（ASIC）。
這個新的部門將由半導體資深人士Dina McKinney領導。McKinney曾擔任負責 AMD CPU 設計和Marvell基礎設施處理器的副總裁，他將負責監(jiān)督為云計算、5G 電信、游戲、汽車等領域構建定制芯片的團隊。
那么，英偉達為什么要下場定制芯片（ASIC芯片），英偉達下場后能夠在ASIC市場中稱王稱霸嗎？
為什么英偉達選擇ASIC？
英偉達選擇ASIC的原因，其實從其新部門面向客戶中可以窺見一二。新部門面向的主要是云計算公司，這和英偉達目前在主要的北美CSP（云計算供應商）企業(yè)重疊，包括Google Cloud、AWS、Microsoft Azure和Meta等企業(yè)。
這些企業(yè)都已經開始進行自家芯片的開發(fā)，例如Google的TPU和微軟的AI加速器Maia及專為Azure設計的CPU “Cobalt”。
因此英偉達進軍ASIC的原因有二：第一，占領新的市場。第二，保護自己免受替代。
先來看占領新的市場。數(shù)據(jù)中心定制芯片的蛋糕并不小，據(jù)研究公司650 Group估計，數(shù)據(jù)中心定制芯片市場今年將增長至100億美元，到2025年將翻一番。
Needham分析師Charles Shi表示，2023年更廣泛的定制芯片市場價值約為300億美元，約占全球芯片年銷售額的5%。
數(shù)據(jù)中心的定制芯片的市場中有兩大巨頭：博通和Marvell。在高端ASIC市場，博通以35％的市占率，穩(wěn)坐龍頭寶座，Marvel以12％的市占率居次。博通和Marvell其實都認為隨著數(shù)據(jù)中心處理器變的多樣，會讓定制芯片的模式重新煥發(fā)生機。
原因在于，AI時代中，ASIC芯片也能撐起一片天。
這就談回了一個老問題：ASIC、GPU，誰是最合適的AI芯片？其實這兩類芯片有各自的特點，但在滿足算力需求上是相互競爭的。簡單來說，GPU有先發(fā)優(yōu)勢，技術發(fā)展時間長，使用成本較低，但是功耗高。ASIC面向特定用戶需求設計的定制芯片，在吞吐量、功耗、算力水平等方面都有優(yōu)勢。
在20世紀90年代時，很多大型企業(yè)都渴望設計和提供針對特定應用的定制ASIC設備，同時提供更好的性能。Sony、Toshiba和IBM最初設計的用于Sony Playstation 3的Cell Processor就是一個例子。不過，由于ASIC的成本高，隨著為特定產品設計ASIC變得越來越難以合理規(guī)模，ASIC的歲月似乎過去。
ASIC和GPU的分歧就在這：成本。
因為從性能來看，針對特定場景或應用所設計的ASIC芯片，會比英偉達所賣的通用GPU更有優(yōu)勢。以前一直使用GPU，也帶火了英偉達等廠商的業(yè)績和股價，但后來大家發(fā)現(xiàn)，隨著機器學習、邊緣計算發(fā)展，算法更加成熟和穩(wěn)定，自己完全有足夠的計算需求去分攤ASIC的成本。
尤其ChatGPT爆火以后，英偉達GPU產品掉隊，很多企業(yè)都是靠著服務器CPU+ASIC的形式，來滿足用戶對于AI訓練和推理的算力需求。
這就展示出ASIC在AI時代的作用。Marvell的計算與定制集團技術副總裁Mark Kuemerle觀察到：“關于這些數(shù)據(jù)中心客戶的有趣事實是，如果他們的系統(tǒng)中出現(xiàn)輕微的瓶頸點，問題會被放大1000倍甚至更多（因為它們部署在超大規(guī)模中）?！边@樣的瓶頸點可能導致NIC卡住?，F(xiàn)成的機器學習設備可能無法匹配工作負載或滿足靈活性或可編程性的需求。
Kuemerle說：“這些超大規(guī)模數(shù)據(jù)中心真的必須將一切精確調整到他們的工作負載。那么，他們投資建設定制芯片絕對是值得的?！?/p>
ASIC早已成為GPU面臨的強大競爭者。
雖說各大廠商購買英偉達GPU，花錢如流水，既然都是流水，為什么不定制更適合自家應用場景的芯片呢？要定制就要花錢，英偉達同樣想把大廠定制芯片的錢，納入自己的錢包。
再來看“免受替代”是怎么回事。目前，谷歌、亞馬遜、特斯拉和Meta都推出了ASIC芯片。
谷歌2015年發(fā)布首款ASIC芯片TPU v1，去年已經迭代到了v5。根據(jù)官方提供的數(shù)據(jù)，每個 TPU v5p pod 在三維環(huán)形拓撲結構中，通過最高帶寬的芯片間互聯(lián)（ICI），以 4,800 Gbps/chip 的速度將 8,960 個芯片組合在一起，與 TPU v4 相比，TPU v5p 的 FLOPS 和高帶寬內存（HBM）分別提高了 2 倍和 3 倍。
谷歌使用TPU v5p壘起一道抵御英偉達GPU的高墻。
對于谷歌來說，要錢有錢，要技術有技術，要應用場景有應用場景，可以說是各大科技巨頭中在自研AI芯片這條路上走得最遠的，其他廠商目前還在源源不斷地給英偉達賬戶打錢，但谷歌卻早已做好了兩手準備。
微軟則也是打響了“逃離英偉達”的信號槍。最新的消息，微軟正在開發(fā)一款新的網卡，可以提高其Maia AI 服務器芯片的性能，并有可能減少該公司對芯片設計商Nvidia的依賴。
有知情人士表示，微軟首席執(zhí)行官薩蒂亞·納德拉(Satya Nadella ) 已任命網絡設備開發(fā)商瞻博網絡 (Juniper Networks) 聯(lián)合創(chuàng)始人普拉迪普·辛杜 (Pradeep Sindhu) 來領導網卡工作。
看來出于成本和自主率考慮，大廠還是更愿意使用自家的ASIC。買英偉達的GPU不但價格高昂，并且受制于人。不過，使用自家芯片多一些，那就用英偉達GPU少一些。
英偉達能稱霸嗎？
谷歌推出自家ASIC的背后，與博通有很大關系。去年說到最紅火的企業(yè)是英偉達，而背后還有一個賣鏟人也在悶聲發(fā)財——博通。目前博通的市值已經達到了5741.98億美元，已經超過了臺積電的市值。
其實從收入來看，博通是全球第二大人工智能芯片公司，僅次于英偉達。博通加速器的銷售額往往高達數(shù)十億美元。
谷歌與博通合作，負責谷歌TPU的物理設計，本質上是基于谷歌的設計圖紙開發(fā)芯片。此外，博通還負責監(jiān)督臺積電的芯片代工業(yè)務。自谷歌和博通開始合作以來，谷歌每兩年左右發(fā)布新一代TPU。知情人士稱，谷歌和博通把每一代TPU的性價比提高了至少50%。
博通與各大巨頭公司合作定制芯片。不但參與了谷歌每一代TPU處理器的設計，還與Meta、蘋果等公司達成合作，共同設計生產芯片。
研究機構SemiAnalysis創(chuàng)始人表示，博通定制芯片業(yè)務規(guī)模達100億美元，美滿電子規(guī)模達20億美元，英偉達的參與確實是一個威脅。
英偉達能否稱霸ASIC市場關鍵也是看兩點能力：設計和議價能力。
先來看設計能力。作為定制芯片，芯片設計的好壞肯定直接會影響到CSP大廠數(shù)據(jù)中心的運行能力，以及成本高低。對于大廠來說，只要能夠提供強大的性能，即使芯片的價格偏高，也會愿意買單。
我們先來看看一臺AI服務器究竟需要哪些芯片？如果拆開一臺AI服務器內部，以HGX H100 8-GPU為例，8 塊 H100 GPU在全新的 FP8 精度下 AI 性能比上一代高 6 倍，可提供 900GB/s 的帶寬，該服務器內部包含NVLink、PCIe和QPI等主板總線。GPU之間的互聯(lián)通過NVSwitch 芯片來實現(xiàn)，CPU與GPU之間的互聯(lián)則通過PCIe 5.0總線實現(xiàn)。
英偉達自家的高速傳輸NV Link、開發(fā)者軟件CUDA和Omniverse等軟件套件，這些帶了極大優(yōu)勢。
但是PCle Switch也很重要，而這個領域是博通的天下。全球PCle Switch三大供應商，博通、微芯、祥碩科技三家，共占有全球約58%的份額。博通作為PCI Express交換領域的領導者，出貨量超過10 億個。
前文我們提到博通參與了很多公司的定制芯片，為什么各大公司都看中博通呢？不僅僅是芯片設計的能力，博通有自己的“護城河”芯片間的通信。
博通是SerDes（串行器/解串器）的通信技術無可爭議的壟斷巨頭。SerDes接口通過在傳輸之前將低速并行數(shù)據(jù)轉換為高速串行數(shù)據(jù)，然后在接收端轉換回并行數(shù)據(jù)，目的在于允許數(shù)據(jù)從一個TPU高速移動到另一個TPU，提升信號傳輸效率。在全球50GB/S的SerDes市場中，博通占據(jù)了76%的市場份額。
這么來看，英偉達、博通在芯片設計方面，都有自己的“護城河”。
從芯片議價能力來說，英偉達在晶圓的采購量上要比博通、邁威爾大得多。在這樣的狀況下，議價能力也相對較高。沿用此邏輯來看，即使CSP廠擁有強大的IC設計團隊，也不見得可取得最佳價格。
如果CSP能與臺積電簽訂具價格競爭力的長約，有機會在價格上獲得優(yōu)勢，打破英偉達的壟斷局面。
結語
總的來說，由于仍有許多存在于云端大廠外的語言模型，因此通用型GPU仍有生存空間。
目前英偉達是否會成立ASIC部門還未確認。一名IC設計代工管理層透露，英偉達一直都有在看ASIC市場，曾經找上門希望能外包部分ASIC方案。換句話說，當時的英偉達即使正生產通用型芯片，仍一面通過外包的方式，吃下ASIC市場。
如今，ASIC的市場需求日益壯大，作為AI霸主英偉達自然不會視而不見，加上還擁有如高速傳輸NV Link、開發(fā)者軟件CUDA等技術優(yōu)勢。目前ASIC競爭對手如博通（Broadcom）、Marvell亦多有布局，博通執(zhí)行長更在傳出加入Meta董事會，英偉達的新策略是否沖擊市場，值得持續(xù)關注。
下載ECAD模型
