相比于英偉達(dá),國(guó)產(chǎn)AI芯片除性能差距外,軟件生態(tài)差距更大,英偉達(dá)的成功不僅僅在于其芯片,更在于其軟件棧CUDA的成功,英偉達(dá)已累計(jì)為CUDA生態(tài)投入120億美元。
同時(shí),自2020年以來(lái),CUDA開發(fā)者數(shù)量從180萬(wàn)激增至450萬(wàn),增長(zhǎng)了150%。
面對(duì)國(guó)外AI算力軟件生態(tài)壁壘高筑的現(xiàn)實(shí),中國(guó)的AI算力還有機(jī)會(huì)嗎?或者說(shuō),在AI領(lǐng)域,RISC-V是否有機(jī)會(huì)去震撼CUDA生態(tài)呢?
對(duì)此,北京大學(xué)講席教授、RISC-V國(guó)際基金會(huì)人工智能與機(jī)器學(xué)習(xí)專委會(huì)主席謝濤分享了專業(yè)角度的觀察和分析。
圖 | 北京大學(xué)講席教授、RISC-V國(guó)際基金會(huì)人工智能與機(jī)器學(xué)習(xí)專委會(huì)主席謝濤
“國(guó)產(chǎn)算力面臨巨大挑戰(zhàn),雖然國(guó)產(chǎn)AI芯片公司都在加速追趕,也在芯片性能上獲得了很大的進(jìn)步,但我們要清醒地認(rèn)識(shí)到,我們的競(jìng)爭(zhēng)對(duì)手太強(qiáng),面對(duì)CUDA的龐大生態(tài)大軍,我們要如何應(yīng)對(duì)?” 謝濤拋出問(wèn)題。
國(guó)產(chǎn)AI芯片公司,也包括國(guó)際上部分AI芯片公司在內(nèi),大家通常會(huì)采取“打不過(guò)就加入”的思路,也就是采用兼容CUDA軟件生態(tài)、特別是走GPGPU路線的做法。
對(duì)此,謝濤認(rèn)為:“這樣的一個(gè)道路只能解燃眉之急,但是長(zhǎng)遠(yuǎn)來(lái)看它還是受制于人;而其它的一些AI芯片公司走的是非CUDA路線,整體上呈現(xiàn)出的是‘小、散、弱’的局面。”
這種局面具體來(lái)講,可以總結(jié)為四點(diǎn):
2.軟件棧不統(tǒng)一,用戶學(xué)習(xí)成本高;
3.算子覆蓋度低,用戶遷移成本高;
4.企業(yè)各自為戰(zhàn),沒有足夠的生態(tài)競(jìng)爭(zhēng)力。
所以,我們可否借鑒Android震撼iOS生態(tài)的模式,來(lái)讓“RISC-V+AI”去震撼CUDA生態(tài)呢?
圖 | AI加速器市場(chǎng)規(guī)模增速最快,來(lái)源:芯原,The SHD Group
我們來(lái)看一組數(shù)據(jù),根據(jù)SHD Group的最新調(diào)研結(jié)果顯示,2023年RISC-V SoC的市場(chǎng)滲透率將達(dá)到2.6%,市場(chǎng)規(guī)模觸及61億美元,其中AI加速市場(chǎng)的規(guī)模為26億美元,成為RISC-V SoC市場(chǎng)的“王牌選手”,占比42.6%;此外SHD Group更是預(yù)測(cè),到2030年,該占比將繼續(xù)上升至49.2%。
換言之,RISC-V 是發(fā)展AI專用處理器共識(shí)之路,可以通過(guò)其可擴(kuò)展性和定制化,滿足AI工作負(fù)載快速變化的需求。
面對(duì)該趨勢(shì),謝濤對(duì)主流的模式進(jìn)行了總結(jié):緊耦合模式和松耦合模式。
其中,緊耦合模式適用于低功耗領(lǐng)域,在這種模式下,RISC-V架構(gòu)將AI計(jì)算單元集成在CPU內(nèi)部,實(shí)現(xiàn)資源共享;而松耦合模式則適用于大算力領(lǐng)域,通過(guò)外掛協(xié)處理器的方式來(lái)執(zhí)行AI任務(wù),提供更強(qiáng)大的計(jì)算能力。
謝濤認(rèn)為,在未來(lái)的發(fā)展中,RISC-V+AI的生態(tài)系統(tǒng)將通過(guò)推動(dòng)國(guó)際標(biāo)準(zhǔn)和共建開源社區(qū)的雙重手段,逐步壯大并與現(xiàn)有的AI計(jì)算生態(tài)形成有力的競(jìng)爭(zhēng)。在這一過(guò)程中,中國(guó)將發(fā)揮關(guān)鍵作用,通過(guò)共建、共創(chuàng),推動(dòng)RISC-V在全球AI計(jì)算領(lǐng)域的廣泛應(yīng)用,助力全球科技的可持續(xù)發(fā)展。
圖 | 萬(wàn)物智聯(lián)時(shí)代的RISC-V+AI算力之路,來(lái)源:芯原
而回到最初提出的問(wèn)題,在AI領(lǐng)域,RISC-V能否震撼CUDA生態(tài)呢?謝濤表示:“RACE也將團(tuán)結(jié)企業(yè)一起探索、探討,也要定出Triton,比CUDA要更高層的生態(tài),而從心態(tài)上,我們應(yīng)該保持謹(jǐn)慎樂觀的態(tài)度。”