智算中心正在CDN化

編者按

CDN行業(yè)，整體不怎么賺錢(qián)。核心原因在于，用戶(hù)的業(yè)務(wù)系統(tǒng)構(gòu)建在公有云或自建的私有云。僅僅是調(diào)用CDN資源，對(duì)CDN服務(wù)沒(méi)有依賴(lài)。當(dāng)有稍微便宜哪怕僅1%的其他CDN資源時(shí)，客戶(hù)瞬間遷走。智算行業(yè)，目前的業(yè)務(wù)模式在無(wú)限接近CDN?？蛻?hù)的業(yè)務(wù)系統(tǒng)部署在通用云計(jì)算上，只是在關(guān)鍵的智能計(jì)算服務(wù)時(shí)，調(diào)度內(nèi)部或外部的智算算力資源。智算中心，無(wú)法為客戶(hù)提供高價(jià)值的服務(wù)，無(wú)法形成用戶(hù)粘性。沒(méi)有差異化，唯一能拼的就是誰(shuí)的價(jià)格更低。還有一個(gè)更大的風(fēng)險(xiǎn)：智算的投入，相比CDN來(lái)說(shuō)，數(shù)量級(jí)倍增。不賺錢(qián)，更高投入就意味著更高風(fēng)險(xiǎn)。智算中心行業(yè)，未來(lái)發(fā)展該往何處去？

1 CDN服務(wù)綜述

1.1 CDN技術(shù)簡(jiǎn)介

CDN（Content Delivery Network，內(nèi)容分發(fā)網(wǎng)絡(luò)），使得用戶(hù)可就近取得所需內(nèi)容，CDN分擔(dān)了內(nèi)容源的訪(fǎng)問(wèn)壓力，同時(shí)提高了用戶(hù)訪(fǎng)問(wèn)網(wǎng)站的響應(yīng)速度。? ?如圖所示，當(dāng)用戶(hù)訪(fǎng)問(wèn)某個(gè)域名地址的內(nèi)容時(shí)，內(nèi)容源站發(fā)現(xiàn)是一個(gè)cdn地址，然后會(huì)給客戶(hù)動(dòng)態(tài)分發(fā)一個(gè)新的IP地址，這個(gè)地址不是源內(nèi)容的地址，而是用戶(hù)就近位置的CDN緩存的內(nèi)容，然后用戶(hù)去這個(gè)新地址訪(fǎng)問(wèn)內(nèi)容。

1.2 CDN業(yè)務(wù)模式的問(wèn)題

CDN服務(wù)的問(wèn)題，不在服務(wù)機(jī)制內(nèi)部。而在于CDN和用戶(hù)業(yè)務(wù)的交互。客戶(hù)的業(yè)務(wù)通常部署在公有云，或者用戶(hù)自建的私有云。當(dāng)需要CDN的時(shí)候，會(huì)額外購(gòu)買(mǎi)CDN服務(wù)。CDN服務(wù)有三個(gè)特點(diǎn)：

一個(gè)是業(yè)務(wù)流水大，非常適合于各個(gè)CDN企業(yè)快速做大業(yè)務(wù)規(guī)模。為了拉升業(yè)務(wù)規(guī)模，就相互之間以更低的價(jià)格競(jìng)爭(zhēng)客戶(hù)。另一個(gè)是，CDN業(yè)務(wù)差異性非常小。客戶(hù)不挑服務(wù)商，隨便哪家都可以用；用戶(hù)只挑價(jià)格。最后就是，CDN服務(wù)對(duì)用戶(hù)沒(méi)有任何粘性。用戶(hù)只需一行代碼，即可快速?gòu)囊粋€(gè)CDN服務(wù)切換到另一個(gè)CDN服務(wù)。

也因此，整個(gè)行業(yè)瘋狂內(nèi)卷，直到大家都奄奄一息。

2 智算服務(wù)綜述

2.1 智算租賃模式

智算行業(yè)，目前主要是以裸機(jī)租賃的方式。裸機(jī)租賃是一個(gè)比較初級(jí)的方式，數(shù)百萬(wàn)購(gòu)買(mǎi)的硬件設(shè)備，其價(jià)值的挖掘不是由算力中心側(cè)負(fù)責(zé)。而是直接就租賃給了客戶(hù)。有點(diǎn)像石油、礦產(chǎn)等原材料，沒(méi)有通過(guò)深加工把它煉化成初級(jí)工業(yè)品。在整個(gè)工業(yè)鏈條里分利太少，白白浪費(fèi)了寶貴的原材料。GPU服務(wù)器，就是智算行業(yè)的原材料，它需要經(jīng)過(guò)深加工，把它封裝成更高級(jí)的算力服務(wù)，才能賺取更多的收益。

這里我們舉一個(gè)例子，假設(shè)一些量化的數(shù)據(jù)，來(lái)簡(jiǎn)單解釋一下。假設(shè)一個(gè)12核CPU（C）和一個(gè)12G帶寬的網(wǎng)卡（N）組成的物理服務(wù)器（僅考慮CPU和網(wǎng)絡(luò)，問(wèn)題能簡(jiǎn)單一點(diǎn)，已經(jīng)能夠說(shuō)明問(wèn)題）。如上圖，我們通過(guò)四種方式實(shí)現(xiàn)多種規(guī)格的算力：

假設(shè)這臺(tái)服務(wù)器成本為10元。第一種，傳統(tǒng)算力租賃方式。完全物理的服務(wù)器，僅可售賣(mài)一臺(tái)服務(wù)器，同時(shí)假設(shè)一對(duì)C+N為1元，總共賣(mài)客戶(hù)12元。

第二種，基本虛擬化?？梢詫?shí)現(xiàn)算力切分，這樣，我們可以把一臺(tái)物理的機(jī)器切分成四臺(tái)虛擬的機(jī)器，可售賣(mài)4臺(tái)計(jì)算實(shí)例。跟第一種其實(shí)就是批發(fā)和零售的關(guān)系。賣(mài)四臺(tái)，每對(duì)C+N賣(mài)1.5元，可以賣(mài)18元。

第三種，精細(xì)虛擬化。不同的計(jì)算對(duì)各類(lèi)資源的需求并不是完全對(duì)等的，可以針對(duì)需求分配多一些的某種資源，其他需求少的資源可以少分配一些。這樣，我們可以把一臺(tái)物理的機(jī)器切分成6臺(tái)虛擬的機(jī)器，可售賣(mài)的機(jī)器實(shí)例變成6個(gè)。客戶(hù)僅關(guān)注某個(gè)資源，我們把1對(duì)C+N賣(mài)1.5元，把額外的C或N賣(mài)1元，這樣算下來(lái)，就是21元。

第四種，軟硬件協(xié)同優(yōu)化。通過(guò)硬件級(jí)的性能隔離、更高效的遷移調(diào)度，能夠?qū)崿F(xiàn)用戶(hù)業(yè)務(wù)無(wú)感情況下的超賣(mài)，這樣可售賣(mài)的機(jī)器數(shù)量會(huì)繼續(xù)增加。通過(guò)高效的調(diào)度，保守估計(jì)，超售比可以做到1.2以上。這樣，21*1.5 = 31.5元。

成本10塊，最終可以賣(mài)到31.5元。當(dāng)然，我們可以把這些可能的收益反向降價(jià)讓利給用戶(hù)。因?yàn)楦銠C(jī)租賃相比，有非常大的降價(jià)空間，所以可以游刃有余的根據(jù)市場(chǎng)情況，既給客戶(hù)更低的成本，又能保持自己產(chǎn)品的競(jìng)爭(zhēng)力。這里舉例的僅僅是IaaS級(jí)的服務(wù)，還沒(méi)有增加CaaS、PaaS、MaaS以及場(chǎng)景和行業(yè)解決方案等方面的價(jià)值。回頭再看裸機(jī)租賃方式，是不是有點(diǎn)暴殄天物？

2.2 智算算力調(diào)度

開(kāi)門(mén)見(jiàn)山，直接說(shuō)個(gè)人的看法。我覺(jué)得目前的智算算力調(diào)度走進(jìn)了一個(gè)誤區(qū)。目前的算力調(diào)度機(jī)制來(lái)源于HPC場(chǎng)景的調(diào)度機(jī)制。也就是這種短期任務(wù)的調(diào)度（關(guān)于算力調(diào)度，之前有專(zhuān)門(mén)的文章介紹，這里不展開(kāi)），跟客戶(hù)業(yè)務(wù)系統(tǒng)常駐型的任務(wù)調(diào)度完全不同。Slurm系統(tǒng)來(lái)源于HPC場(chǎng)景，天然就是原生支持這種短期任務(wù)型的計(jì)算。K8S，本來(lái)是親和于常駐型計(jì)算任務(wù)的，但行業(yè)我了解到的情況是，智算目前基于K8S的管理系統(tǒng)，也是以這種短期任務(wù)為主的。這樣就產(chǎn)生一個(gè)非常尷尬的現(xiàn)實(shí)。用戶(hù)的業(yè)務(wù)系統(tǒng)，通常需要長(zhǎng)期處于運(yùn)行狀態(tài)的：C端的業(yè)務(wù)必然是7x24小時(shí)時(shí)刻不中斷， B端用戶(hù)的業(yè)務(wù)也大部分需要長(zhǎng)期穩(wěn)定運(yùn)行。這樣，客戶(hù)的業(yè)務(wù)系統(tǒng)就只能部署在公有云或用戶(hù)自建的私有云，而無(wú)法部署在智算中心。

2.3 智算業(yè)務(wù)模式，越來(lái)越像CDN

客戶(hù)的業(yè)務(wù)系統(tǒng)不在智算中心，在需要訓(xùn)練和推理的時(shí)候，才來(lái)訪(fǎng)問(wèn)智算中心。智算中心，無(wú)法對(duì)客戶(hù)形成業(yè)務(wù)粘性；智算中心的業(yè)務(wù)模式是裸機(jī)租賃，同質(zhì)化嚴(yán)重，大家都只能陷入爭(zhēng)相殺價(jià)的內(nèi)卷。有沒(méi)有覺(jué)得，這跟CDN很像？CDN的現(xiàn)在，就是智算行業(yè)的未來(lái)。相比CDN行業(yè)來(lái)說(shuō)，智算行業(yè)的投入，是天文數(shù)字。智算行業(yè)的問(wèn)題只會(huì)更嚴(yán)重。往小了說(shuō)，會(huì)影響行業(yè)中從投資人到從業(yè)者的收益。往大了說(shuō)，會(huì)影響我國(guó)的人工智能事業(yè)發(fā)展。

3 智算行業(yè)，未來(lái)往何處去？

不能僅提出問(wèn)題，還應(yīng)盡可能給出可行的能夠解決問(wèn)題的方案。智算行業(yè)，未來(lái)往何處去？是向下，還是向上？向下，就是不斷的卷價(jià)格，“不是你死，就是我亡”，行業(yè)進(jìn)入一個(gè)低層次的持續(xù)內(nèi)卷。向上，就是不斷的卷技術(shù)，卷服務(wù)，給客戶(hù)提供更多精細(xì)化的增值服務(wù)。向下，我無(wú)話(huà)可說(shuō)。向上，我可以展開(kāi)聊聊：

智算，不僅僅只是智算。圍繞著智算的場(chǎng)景，把智算和傳統(tǒng)通算，以及網(wǎng)絡(luò)、存儲(chǔ)、安全等方面的服務(wù)融合到一起，形成綜合全面的算力服務(wù)。整個(gè)服務(wù)堆棧，不斷向上。在裸機(jī)之上，封裝IaaS和CaaS，再疊加PaaS和MaaS。還需要針對(duì)業(yè)務(wù)場(chǎng)景，提供更多的以AI+為特色的場(chǎng)景和行業(yè)解決方案。

新型終端業(yè)務(wù)場(chǎng)景的重點(diǎn)投入。隨著智能汽車(chē)、人形機(jī)器人等行業(yè)的興起，相比PC、手機(jī)和平板這樣的傳統(tǒng)終端，這類(lèi)新型的大算力的終端，對(duì)云和邊緣的算力服務(wù)，以及云邊端融合的整體解決方案，提出了更高的要求。新型大算力終端，是大模型AI+的重要落地場(chǎng)景，也是未來(lái)的數(shù)個(gè)萬(wàn)億級(jí)新藍(lán)海市場(chǎng)。