作者 | 方文三
對(duì)于一些高新科技企業(yè)而言,核心的技術(shù)數(shù)據(jù)是其生命線。
過(guò)度依賴(lài)進(jìn)口服務(wù)器等同于將自己的生命主動(dòng)權(quán)完全交給別人。
因此,服務(wù)器國(guó)產(chǎn)化的重要性不言而喻。
服務(wù)器市場(chǎng)正迎來(lái)代際升級(jí)
服務(wù)器作為數(shù)據(jù)處理和存儲(chǔ)的核心部件,其性能直接決定了整個(gè)信息系統(tǒng)的運(yùn)行效率。
隨著Al大模型應(yīng)用的加速落地和智算中心建設(shè)的加速,國(guó)內(nèi)外廠商對(duì)算力的需求不斷提升,Al服務(wù)器的需求量也大幅增加。
據(jù)IDC預(yù)測(cè),2023年市場(chǎng)規(guī)模將達(dá)到248億美元,同比增長(zhǎng)27%。
根據(jù)北京研精畢智信息的最新數(shù)據(jù),2022年全球Al服務(wù)器行業(yè)市場(chǎng)出貨量達(dá)到了85萬(wàn)臺(tái)。
根據(jù)TrendForce的預(yù)估,2023年全球Al服務(wù)器出貨量將接近120萬(wàn)臺(tái);
到2025年,這一數(shù)字將增長(zhǎng)至近190萬(wàn)臺(tái),2022-2025年的復(fù)合年增長(zhǎng)率(CAGR)為41.2%。
AI服務(wù)器主要采用并行計(jì)算的芯片,如GPU、FPGA等,以適應(yīng)AI時(shí)代的算力需求。
這些芯片的應(yīng)用,使得AI服務(wù)器在組成部件上與普通服務(wù)器差異不大,但性能卻有顯著的提升。
根據(jù)IDC發(fā)布的市場(chǎng)跟蹤報(bào)告,2022年中國(guó)服務(wù)器市場(chǎng)規(guī)模達(dá)到273.4億美元,同比增長(zhǎng)9.1%,占全球市場(chǎng)份額的24.5%。
中商產(chǎn)業(yè)研究院預(yù)測(cè),到2023年,中國(guó)服務(wù)器市場(chǎng)規(guī)模將增長(zhǎng)至308億美元。
國(guó)內(nèi)將首要關(guān)注新興服務(wù)器芯片領(lǐng)域
和PC一樣,服務(wù)器核心芯片主要包括CPU、GPU,隨著大數(shù)據(jù)催生多元算力新計(jì)算架構(gòu),DPU逐漸成為數(shù)據(jù)中心的第三顆主力芯片。
相比訓(xùn)練,模型的部署是更大的市場(chǎng)。應(yīng)用對(duì)于服務(wù)器的最大承載能力要求在于過(guò)峰,即滿足PCU時(shí)刻的訪問(wèn)需求。
據(jù)此測(cè)算,國(guó)內(nèi)由AI帶動(dòng)的服務(wù)器需求量約為5萬(wàn)臺(tái)-16.6萬(wàn)臺(tái),芯片為50-166萬(wàn)顆。
假設(shè)全球活躍用戶體量為國(guó)內(nèi)用戶體量的3倍,則全球服務(wù)器需求量為15-50萬(wàn)臺(tái),芯片需求量為50-500萬(wàn)顆。
從產(chǎn)業(yè)發(fā)展現(xiàn)狀來(lái)看,X86服務(wù)器領(lǐng)域國(guó)內(nèi)廠商差距較為明顯。
ARM、RISC-V為代表的新興服務(wù)器芯片及DPU為代表的新應(yīng)用產(chǎn)品未來(lái)有望在云端市場(chǎng)占據(jù)一定空間。
中金測(cè)算,AI服務(wù)器核心組件按價(jià)值量由高到低依次為GPU、DRAM、SSD、CPU、網(wǎng)卡、PCB、高速互聯(lián)芯片和散熱模組等。
按7.5萬(wàn)臺(tái)訓(xùn)練型和17.5萬(wàn)臺(tái)推理型服務(wù)器測(cè)算,對(duì)應(yīng)市場(chǎng)規(guī)模分別為240億美元、88億美元、48億美元、34億美元、5億美元、3億美元、2.5億美元和1.5億美元。
內(nèi)存接口芯片作為提升內(nèi)存數(shù)據(jù)訪問(wèn)速度和穩(wěn)定性的關(guān)鍵部件,其市場(chǎng)需求也將隨之增長(zhǎng)。
目前,內(nèi)存接口芯片僅用于服務(wù)器內(nèi)存模組,為服務(wù)器的大容量、高速率、高穩(wěn)定性等性能提供重要保障。
瀾起科技以?xún)?nèi)存接口芯片為核心,不斷拓展高速互連芯片品類(lèi),迭代開(kāi)發(fā)CPU、AI等高性能計(jì)算芯片,深度融入服務(wù)器生態(tài)系統(tǒng),充分受益于高速成長(zhǎng)的服務(wù)器產(chǎn)業(yè)。
其[1+9]分布式架構(gòu),這一創(chuàng)新性技術(shù)解決了傳統(tǒng)集中式架構(gòu)存在的功耗高、大容量與高速率之間沖突的問(wèn)題,并被JEDEC國(guó)際標(biāo)準(zhǔn)所采納。
隨著內(nèi)存模組迎來(lái)新舊世代切換,瀾起科技的產(chǎn)品有望迎來(lái)新的發(fā)展機(jī)遇,其PCIe Retimer芯片、MXC芯片和MCR接口芯片等新產(chǎn)品。
專(zhuān)注于PCB產(chǎn)業(yè)的滬電股份,在AI超算服務(wù)器PCB市場(chǎng)上處于領(lǐng)先地位,預(yù)計(jì)5.0服務(wù)器主板的份額也將顯著提升。
服務(wù)器芯片公司不會(huì)錯(cuò)過(guò)這樣的發(fā)展時(shí)機(jī)
根據(jù)IDC 2018年服務(wù)器成本結(jié)構(gòu)數(shù)據(jù)顯示,芯片成本在基礎(chǔ)型服務(wù)器中約占總成本的32%;
而在高性能或更強(qiáng)性能的服務(wù)器中,芯片成本占比高達(dá)50%—83%。
從產(chǎn)業(yè)發(fā)展的趨勢(shì)來(lái)看,在國(guó)內(nèi)服務(wù)器已逐漸占據(jù)一定市場(chǎng)份額的大背景下,加速實(shí)現(xiàn)服務(wù)器芯片的自主可控已是大勢(shì)所趨。
當(dāng)前,國(guó)產(chǎn)服務(wù)器CPU正處于關(guān)鍵時(shí)期,主流廠商包括海光、兆芯、飛騰、華為鯤鵬、龍芯和申威等六家領(lǐng)軍企業(yè)。
以電信行業(yè)為例,2020-2022年國(guó)產(chǎn)CPU占比提升不斷提升,其中海光和鯤鵬占據(jù)較大的市場(chǎng)份額。
海光最新一代CPU已接近國(guó)際同類(lèi)高端產(chǎn)品水平,并兼容x86指令集,在電信、金融、互聯(lián)網(wǎng)等領(lǐng)域具有顯著優(yōu)勢(shì)。
海光CPU包括海光3000、5000以及7000系列,它們的技術(shù)設(shè)計(jì)同源,處理器核心等具有相似的技術(shù)特征。
飛騰與1600余家國(guó)內(nèi)軟硬件廠商打造完整生態(tài)體系,并已完成與6大類(lèi)1000余種整機(jī)產(chǎn)品、2600余種軟件和外設(shè)的適配。
基于飛騰桌面CPU的終端已形成較為完整的生態(tài)圖譜,可覆蓋從整機(jī)硬件、基礎(chǔ)軟件到上層的應(yīng)用。
今年4月,龍芯推出2023款HPC CPU:3D5000,擁有32核高達(dá)2 GHz和300W TDP,據(jù)稱(chēng)比典型Arm芯片快4倍。
龍芯3D5000的推出,進(jìn)一步滿足了數(shù)據(jù)中心對(duì)性能的需求,也標(biāo)志著龍芯中科在服務(wù)器CPU芯片領(lǐng)域進(jìn)入國(guó)內(nèi)領(lǐng)先行列。
國(guó)內(nèi)企業(yè)開(kāi)始部署RISC-V芯片
在今年的10月份,山東大學(xué)成功部署了基于RISC-V CPU的服務(wù)器集群,該系統(tǒng)擁有3072個(gè)核心,并配置了48個(gè)64位RISC-V CPU節(jié)點(diǎn)。
據(jù)阿里巴巴生態(tài)系統(tǒng)總監(jiān)陳大偉在RISC-V峰會(huì)上發(fā)表演講時(shí)透露,這是RISC-V集群首次在云端部署,目前該系統(tǒng)主要用于山東大學(xué)的教學(xué)和科研項(xiàng)目,部分功能也可用于商用云計(jì)算。
山東大學(xué)的RISC-V系統(tǒng)采用了國(guó)內(nèi)某公司的SG2042芯片,該芯片主頻達(dá)到2GHz,并配備64MB緩存。
今年早些時(shí)候,該公司發(fā)布了RISC-V芯片,阿里巴巴與其合作將Linux操作系統(tǒng)引入該服務(wù)器集群。
中國(guó)科學(xué)院(CAS)正在與阿里巴巴、騰訊和中興通訊等本土頂尖企業(yè)合作開(kāi)發(fā)名為[香山-v3]的RISC-V芯片。
國(guó)內(nèi)相關(guān)企業(yè)和科研機(jī)構(gòu)正在開(kāi)發(fā)專(zhuān)門(mén)用于RISC-V芯片設(shè)計(jì)的開(kāi)源EDA工具。
國(guó)內(nèi)服務(wù)器廠商與芯片廠商共同推進(jìn)
基于供應(yīng)受限的背景,服務(wù)器龍頭們過(guò)去半年來(lái)一邊繼續(xù)做GPU服務(wù)器的開(kāi)發(fā);
另一方面紛紛采取開(kāi)放架構(gòu),兼容國(guó)產(chǎn)自主創(chuàng)新芯片。
比如浪潮信息就推出了開(kāi)放加速計(jì)算架構(gòu),據(jù)稱(chēng)具有大算力、高互聯(lián)和強(qiáng)擴(kuò)展的特點(diǎn)。
基于此,浪潮信息發(fā)布了三代AI服務(wù)器產(chǎn)品,和10余家芯片伙伴實(shí)現(xiàn)多元AI計(jì)算產(chǎn)品落地,并推出AIStation平臺(tái),可高效調(diào)度30余款AI芯片。
還有一些服務(wù)器廠商則繞過(guò)GPGPU路線,另辟蹊徑從自主創(chuàng)新硬件落地AI服務(wù)器。
比如,8月,科大訊飛與華為聯(lián)合發(fā)布的訊飛星火一體機(jī),基于鯤鵬CPU+昇騰GPU,采用華為存儲(chǔ)和網(wǎng)絡(luò)提供整機(jī)柜方案,F(xiàn)P16算力達(dá)2.5 PFLOPS。
對(duì)比來(lái)看,在大模型訓(xùn)練中最為流行的英偉達(dá)DGX A100 8-GPU,可以輸出5PFLOPS的FP16算力。
結(jié)尾:
在經(jīng)歷多次起起落落之后,服務(wù)器芯片領(lǐng)域有望在不久的將來(lái)迎來(lái)新的變革。
在這個(gè)不斷變化的環(huán)境中,機(jī)遇與挑戰(zhàn)并存,未來(lái)的格局充滿未知。
在這個(gè)關(guān)鍵時(shí)刻,AI服務(wù)器廠商需要證明他們?cè)?a class="article-link" target="_blank" href="/tag/%E4%BA%A7%E4%B8%9A%E9%93%BE/">產(chǎn)業(yè)鏈中的疏通能力,以應(yīng)對(duì)供應(yīng)鏈風(fēng)險(xiǎn)并與上下游合作伙伴形成強(qiáng)大的聯(lián)盟。
部分資料參考:
半導(dǎo)體產(chǎn)業(yè)縱橫:《國(guó)產(chǎn)服務(wù)器芯片要燃了》,半導(dǎo)體行業(yè)觀察:《服務(wù)器芯片三十年戰(zhàn)事》,芯八哥:《服務(wù)器大芯片發(fā)展現(xiàn)狀及行業(yè)競(jìng)爭(zhēng)格局》,芯世相:《AI服務(wù)器價(jià)格漲近20倍!帶火哪些芯片?》