天數(shù)智芯CTO呂堅平首談DeepSpark：GPU有效算力的試金石

近日，上海天數(shù)智芯半導體有限公司（以下簡稱“天數(shù)智芯”）正式發(fā)布了國內(nèi)首個通用計算應用開發(fā)及評測平臺——DeepSpark。

 
圖 | 天數(shù)智芯CTO呂堅平

帶著什么是DeepSpark，DeepSpark有什么用，DeepSpark的推出對天數(shù)智芯和GPU生態(tài)有什么好處等問題，筆者采訪了天數(shù)智芯CTO呂堅平先生，并將內(nèi)容整理與大家分享。

什么是DeepSpark？

DeepSpark是天數(shù)智芯為了幫助大家識別運算業(yè)務中的有效算力而推出的百大應用開放平臺。

為什么是百大應用，不是十大或是千大應用？天數(shù)智芯CTO呂堅平表示：“僅天數(shù)智芯當前適配的行業(yè)就有二十多個，客戶已超過300家，應用的適配場景已達到200個，所以十太小，而萬事開頭難，百大應用只是個起點，未來會有更大的量級。”

 
圖 | DeepSpark平臺的三大組成元素

從組成的角度來看，DeepSpark平臺主要由三大部分組成：應用算法、應用框架和一站式評價體系。

關于應用算法，在當前DeepSpark的第一個版本中，天數(shù)智芯提供了超過100種模型和算法，涵蓋人工智能圖像、視覺以及自然語音等日常所用的算法模型、3D重建模型、通用計算模型、高性能計算模型等。以分類算法為例，從早期的VGG安全結構到后續(xù)的ViT算法，覆蓋了該領域過去十幾年所積累的算法演變。而這只是一個開端，新型計算模式代表不同的業(yè)務需求和計算、存儲、傳輸?shù)牟煌詈戏绞?，以CVPR算法為例，過去它一直代表著行業(yè)算法的最新趨勢，比如CVPR今年開始支持點云新型的數(shù)據(jù)類型，這將大大擴展人工智能以及通用計算領域所使用的范圍。而DeepSpark平臺每年都會根據(jù)CVPR最新的流行趨勢和上面的排行榜來支持最新的算法模型。

 
圖 | DeepSpark平臺提供了超過100種的模型和算法

在語音領域，DeepSpark平臺將支持國內(nèi)的語音分析大模型，如CPM、CRO等。在通用計算領域，在很多場景中都需要預處理才能進行人工智能分析，由此引出了一系列的數(shù)字信號分析和要求，因此會有大規(guī)模的線性方形組求解需求，這時候就要用到RTM、RNA等通用計算算法，最后融合通用計算算法、超算算法、人工智能算法來覆蓋新的應用領域。所以通過歷史維度覆蓋算法的歷史變化過程，并且在應用維度上覆蓋各項不同領域的兩個角度，DeepSpark將向行業(yè)首次提出通用GPU或者通用算力的算法集。

對于框架的支持，DeepSpark平臺除了可以較好地支持TensorFlow、PyTorch、WeNet、MDetection、飛槳、昇思等架構以外，還能解決跨平臺的遷移難，以及開發(fā)應用缺少工具的痛點。

未來，DeepSpark平臺將以開源社區(qū)的方式進行運維，在這個平臺中，天數(shù)智芯將首先分享與合作伙伴和社區(qū)開發(fā)者共建的落地成果，來吸引更多的開發(fā)者加入，加快國內(nèi)GPU生態(tài)的建設。同時DeepSpark平臺還將針對可見的商業(yè)落地行業(yè)提出行業(yè)參考型的測試環(huán)境，方便大家選擇合適自己的算力。

國產(chǎn)通用GPU面臨“大落地”，DeepSpark將成為選型神器

根據(jù)Verified Market Research數(shù)據(jù)，2020年GPU市場規(guī)模為254.1億美元，圖像顯示、人工智能深度學習的需求支撐GPU市場持續(xù)增長，預計到2027年將達到1853.1億美元。而在獨立GPU行業(yè)，英偉達可謂是獨霸天下。2021年第四季度，全球獨立GPU市場中，英偉達獨占81%的市場。

這兩組數(shù)據(jù)表明，GPU的市場容量增勢喜人，且存在非常大的國產(chǎn)化空間。于是這幾年通用GPU成為資本市場的新寵，根據(jù)不完全統(tǒng)計，中國大陸大約有7家相對主流的通用GPU公司，它們分別是天數(shù)智芯、壁仞科技、登臨科技、摩爾線程、珠海芯動力、沐曦和紅山微電子。

從產(chǎn)品側來看，天數(shù)智芯是目前國內(nèi)唯一一家有量產(chǎn)產(chǎn)品落地的公司。

• 2021年3月，天數(shù)智芯發(fā)布了國內(nèi)首款通用GPU訓練芯片天垓100，以及天垓100加速卡，天垓100為天數(shù)智芯自主研制7納米GPGPU高端自研云端訓練芯片，具有全方位生態(tài)兼容、高性能有效算力、指令集編程架構以及軟硬件全棧支持等優(yōu)勢。

• 2022年4月，天數(shù)智芯宣布其首款通用GPU天垓100及天垓100加速卡自發(fā)布以來，累計獲得的訂單金額已經(jīng)接近2億元，成為中國唯一量產(chǎn)的通用GPU產(chǎn)品。

• 2022年5月，天數(shù)智芯再次宣布已成功點亮7納米通用GPU推理芯片智鎧100，目前在第一批客戶的驗證和適配階段，預計將于今年四季度正式發(fā)布，年底實現(xiàn)量產(chǎn)。

此外，呂堅平分析：“近年來，大算力AI芯片的落地總有些差強人意，到底是哪個環(huán)節(jié)出了問題？可能還是出在通用性上。通常，為了更好地匹配某些應用場景，大家總會在某些少數(shù)性能指標上下功夫，而一旦將該芯片面向千行百業(yè)，所需要的算法就會各不相同，太強的專用性會限制算法的迭代和演進，這時候硬件的通用性就變得非常重要，這也是為什么這么多年來，AI芯片廠商總做不過GPU頭部廠商的原因。而要做到通用性就必須從芯片本身架構和客戶的支持這兩個方面下功夫。”

 
圖 | DeepSpark平臺分析結果示例

那么，對于硬件系統(tǒng)廠商來講，如何才能驗證市場上GPU或是AI芯片的通用性呢？在之前是沒有這個工具的，而現(xiàn)在天數(shù)智芯推出了DeepSpark這樣一個開放性的平臺，可供整個行業(yè)的下游廠商來根據(jù)其應用場景測試出相應芯片的有效算力，在GPU盲盒式選型的當前，DeepSpark平臺可謂是選型神器。

值得一提的是，這種對比是沒有統(tǒng)一參照原的，硬件系統(tǒng)廠商可以根據(jù)自己的需求，搭建硬件平臺，實現(xiàn)任意兩款芯片產(chǎn)品的多方位性能對比。

那么，DeepSpark的推出對天數(shù)智芯和GPU生態(tài)有什么好處呢？呂堅平表示：“DeepSpark的服務對象是應用，它可以讓天數(shù)智芯等企業(yè)的下游泛在客戶不再盲目地追求性能指標，引導大家往通用性的方向去走，同時還能讓大眾明白，不是某個性能指標高就是超過英偉達，好用才是王道。”