成功的一種方式是在正確的時間出現(xiàn)在正確的地點(diǎn)(假設(shè)你足夠聰明可以識別到這個機(jī)會)。預(yù)見市場的發(fā)展是另一種方式,而創(chuàng)造市場則是成功的另一條路徑。Nvidia在AI領(lǐng)域做到了這一切,甚至更多。
在大型語言模型(LLM)、Transformer和生成式AI大行其道之前,Nvidia就已經(jīng)開始了當(dāng)時所謂的“加速計算”或GPU計算,并使用其CUDA C++類似的編程語言作為催化劑和通道,來利用GPU的并行處理能力。GPU是復(fù)雜的設(shè)備,讓多個數(shù)據(jù)線程正確且同步地運(yùn)行是一個棘手的過程。CUDA減輕了很多這方面的工作,而且回報非常好,以至于大型組織中的數(shù)百名開發(fā)者利用它建立了一個龐大的專有和開放程序庫,這些程序運(yùn)行在Nvidia的GPU上。
當(dāng)生成式AI出現(xiàn)時,已經(jīng)有了大量的CUDA程序員。這部分歸功于Nvidia在2000年代末的遠(yuǎn)見,在全球大多數(shù)主要大學(xué)設(shè)立CUDA編程課,并由Nvidia承擔(dān)費(fèi)用。這是一個大膽的投資,而且得到了豐厚的回報,這也是創(chuàng)造市場概念的一部分。
Nvidia還雇傭了許多AI領(lǐng)域的超級明星,盡管當(dāng)時他們在AI業(yè)務(wù)上并沒有很多,但公司投資于未來。這是預(yù)見市場的一部分。
Nvidia已鋪墊好一切,而生成式AI就這樣飄然而至。此后每次都是如此。市場就在計算機(jī)社區(qū)前面發(fā)展,幾乎在其他人識別到這個巨大機(jī)會之前,Nvidia就擁有了它,在正確的時間出現(xiàn)在正確的地點(diǎn)。
Nvidia擁有90%或更多的AI訓(xùn)練市場以及基于云的推理市場,通過基于云的LLM支持。他們擁有大量的工具和示例庫,以及26,000名員工和該領(lǐng)域的科學(xué)領(lǐng)軍人物。有人能趕超Nvidia,并向其發(fā)出挑戰(zhàn)嗎?
要追趕Nvidia,僅僅開發(fā)獨(dú)特的AI處理器是不夠的。那么為自己的處理器開發(fā)一個類似于CUDA的東西,并將其提供給開發(fā)者,會是超越的訣竅嗎?可能是,而像OpenCL這樣的東西確實存在。
任何專用設(shè)備都無法與Nvidia的規(guī)模經(jīng)濟(jì)競爭。Nvidia將GPU銷售給游戲玩家、汽車客戶、工程師、超算中心、電影制片廠以及AI研究人員和開發(fā)者。Nvidia提供每FLOP的最低成本,并且提供多種封裝和系統(tǒng)。是的,專用的特定應(yīng)用處理器總是會超過通用處理器的性能。但是,特定應(yīng)用處理器在價格上無法競爭,無法與通用處理器的發(fā)展速度相匹配,尤其是像GPU這樣的處理器。
簡單算一下,Nvidia擁有26,000多人。一個初創(chuàng)公司有多少人?可能100人,最多也許500人?Nvidia已經(jīng)從事GPU業(yè)務(wù)超過23年,他們擁有無數(shù)的經(jīng)驗、人脈、資源和資金。Nvidia還擁有某些需要時間,甚至多年時間才能獲得的東西,即軟件、軟件工具、庫,以及成百上千的客戶用GPU做出了Nvidia和其他人沒預(yù)料到的案例,但這一切都回到了Nvidia。
Nvidia已經(jīng)這樣做了十多年。他們的游戲AI軟件,稱為DLSS(Deep Learning Super Sampling),已經(jīng)徹底改變了游戲行業(yè),并迫使AMD和Intel處于追趕模式。目前已有500多款游戲在使用它。這至少帶來了兩個結(jié)果:一個是龐大的用戶體驗,可用于調(diào)優(yōu)和開發(fā)改進(jìn)版本和功能;另一個是客戶忠誠度。AI領(lǐng)域也是如此。
如何說服開發(fā)者支持自己?
那么,什么因素能激勵潛在客戶或現(xiàn)有用戶為一款未知的AI處理器開發(fā)庫呢?
客戶關(guān)懷、對應(yīng)用的專業(yè)知識,以及為特定應(yīng)用精細(xì)調(diào)整的處理器。Nvidia擁有眾多垂直市場的專家和領(lǐng)域?qū)<遥缒M、渲染、LLM、HPC、可視化等,但他們不可能為每個應(yīng)用都配備專家,尤其是那些四五年才購買一次處理器的應(yīng)用。因此,你會看到初創(chuàng)公司吹噓他們在非常深奧的應(yīng)用領(lǐng)域取得了設(shè)計勝利。這是沒問題的。從Nvidia的角度來看,這反而消除了低容量、購買頻次低的干擾。
Nvidia現(xiàn)在無疑是華爾街的寵兒。Nvidia面臨的挑戰(zhàn)將是找到新的AI應(yīng)用。醫(yī)療領(lǐng)域可能是AI的主要市場,那里沉淀著幾十年的研究和病人監(jiān)測數(shù)據(jù)。其他大型應(yīng)用包括重新審查從衛(wèi)星到地震的地球物理數(shù)據(jù)。物流也為AI提供了巨大的投資回報機(jī)會,這與數(shù)字孿生和機(jī)器人技術(shù)緊密相關(guān)。因此,Nvidia的可用市場總量(TAM)相當(dāng)大,他們面臨的問題將是決定追求哪些領(lǐng)域。但他們有許多聰明人在思考這個問題。
AI處理器初創(chuàng)公司應(yīng)該做些什么來獲得一些支持?盡可能遠(yuǎn)離Nvidia。找到Nvidia尚未滲透的細(xì)分市場,這是對初創(chuàng)公司AI意識的真正考驗。如果他們找不到這些細(xì)分市場,說明他們對市場的了解并不充分,不應(yīng)該浪費(fèi)投資者的資金,因為他們不知道客戶是誰,這些硬件永遠(yuǎn)不會被購買。
對于初創(chuàng)公司來說,局勢本來就不利。首先,大公司喜歡與大公司打交道。他們希望有一個財力雄厚的供應(yīng)商,一旦出了問題,至少他們可以起訴供應(yīng)商。他們還希望能夠一直為他們提供支持。對于大公司和有長遠(yuǎn)眼光的政府機(jī)構(gòu)來說,初創(chuàng)公司風(fēng)險很大。
AMD和Intel??
那么,如果初創(chuàng)公司無法真正與Nvidia競爭,誰能呢?另一家大公司,比如AMD,或許還有Intel。
AMD剛剛宣布了一系列從上到下的AI產(chǎn)品,直接面對Nvidia,并在許多測試案例中超越Nvidia。該公司表示,新款MI300X GPU超過了Nvidia H100的速度,具有2.6 petaFLOPS的FP8性能。不僅如此,AMD還與Nvidia的所有合作伙伴建立了穩(wěn)固的合作關(guān)系,因此它們是久經(jīng)考驗的實體。
Intel也潛伏在暗處,準(zhǔn)備推出自己的AI處理器、軟件和服務(wù)。Intel已經(jīng)建造了超級計算機(jī)GPU計算加速器,并且還有更多在開發(fā)中。Intel還擁有一些像Gaudi2這樣的ASP AI加速器,用于深度學(xué)習(xí),以及開放的軟件和工具。Intel知道并且被計算機(jī)行業(yè)中的每個人所熟知。
市場已經(jīng)成熟。Dell亞太及日本區(qū)總裁Peter Marrs最近評論說,買家不會容忍N(yùn)vidia交付GPU的漫長周期,這使得新玩家有機(jī)會進(jìn)入市場。
AMD的Lisa Su表示,買家不必等待,我們已經(jīng)準(zhǔn)備好了。她在最近的一次演講中說,“AI絕對是AMD的首要任務(wù)”。
像Amazon、Google和Microsoft這樣的公司已經(jīng)構(gòu)建并正在構(gòu)建自己的ASP AI加速器。它們按分鐘出售處理器時間,并將為自己的處理器提供更優(yōu)惠的費(fèi)率,同時仍然提供AMD和Nvidia的G(PU)aaS GAI GPU。
那么,當(dāng)所有大公司聚集在一起,滿足當(dāng)前對GAI加速器無法滿足的需求時,初創(chuàng)公司的機(jī)會何在?
生產(chǎn)晶圓級WSE-2芯片的初創(chuàng)公司Cerebras有了一個良好的開端,它獲得了一個價值1億美元的超級計算機(jī)集群“Condor Galaxy”的建設(shè)協(xié)議。Cerebras希望為總部位于阿聯(lián)酋的G42(Group 42)建造九個設(shè)施,總成本為9億美元。
另一家備受矚目的生成式AI加速器初創(chuàng)公司Tenstorrent透露,Samsung將代工生產(chǎn)Tenstorrent基于RISC-V的處理器。如果Tenstorrent提供完全開放的RISC-V ISA,那么他們將帶來通用AI處理器,而不是像Cerebras、Google或Intel那樣的特定應(yīng)用處理器。這將使他們直接面對Nvidia和AMD的競爭。
還有其他AI處理器初創(chuàng)公司,包括Hailo,它為邊緣AI應(yīng)用提供神經(jīng)學(xué)習(xí)處理器,以及Axelera AI,后者提供基于硬件和軟件的平臺,加速邊緣AI推理。大約有十家公司提供某種類型的ASP AI處理器。
在AMD創(chuàng)立之初,IBM、Amdahl和Intel是當(dāng)時王者,挑戰(zhàn)他們看起來是非常愚蠢的。當(dāng)Nvidia剛開始時,市場中已經(jīng)存在著包括IBM在內(nèi)的十幾家圖形處理器公司,挑戰(zhàn)他們也被認(rèn)為是愚蠢的。Intel是在強(qiáng)大的Fairchild之下起步的,同樣也被認(rèn)為是愚蠢的。
那么,初創(chuàng)公司挑戰(zhàn)Nvidia的機(jī)會是什么?沒有,因為這是非常愚蠢的,直到它變得不再愚蠢。?