邊緣AI芯片遭受四重沖擊

AI芯片，有錢就能做？必要但不充分。只有當(dāng)你足夠成功，才配有名有姓。

兩大陣營

為什么全球CPU、GPU公司只有屈指可數(shù)的幾家，但是人工智能大潮一來，幾年間就涌現(xiàn)出了那么多的AI芯片公司？AI芯片，有錢就能做嗎？

這是芯片工程師的一個(gè)“友盡”話題，肯定派認(rèn)為：與高端通用處理器相比，AI芯片多數(shù)是ASIC，容易多了；否定派認(rèn)為，AI芯片需要針對算法進(jìn)行特定設(shè)計(jì)，應(yīng)用場景限制更多，是多方面設(shè)計(jì)思想的完美平衡，尤其是直接面向碎片應(yīng)用的邊緣計(jì)算AI芯片，并不比CPU、GPU容易。

開發(fā)不易落地難，費(fèi)時(shí)燒腦忙全棧——算是邊緣AI芯片開發(fā)的真實(shí)寫照了吧。

邊緣計(jì)算其實(shí)是上世紀(jì)九十年代初提出的概念，來源于數(shù)據(jù)內(nèi)容傳輸網(wǎng)絡(luò)，用來服務(wù)網(wǎng)頁和視頻內(nèi)容，當(dāng)時(shí)是從端側(cè)服務(wù)器所產(chǎn)生的服務(wù)，可以更加靠近用戶。

從過去三十年的發(fā)展變遷來看，數(shù)據(jù)類型和體量發(fā)生了巨大變化。最早期是人產(chǎn)生數(shù)據(jù)（比如廣播、電視媒體等），到現(xiàn)在大量智能終端用戶都在產(chǎn)生數(shù)據(jù)，此外，還有機(jī)器產(chǎn)生的數(shù)據(jù)，以及元數(shù)據(jù)（描述數(shù)據(jù)的數(shù)據(jù)）……這些數(shù)據(jù)必須要靠近處理數(shù)據(jù)的地方。這些都導(dǎo)致了數(shù)據(jù)類型越來越多元化，遠(yuǎn)非傳統(tǒng)CPU或GPU就可以處理的。

邊緣AI芯片設(shè)計(jì)新挑戰(zhàn)？

英特爾研究院副總裁、英特爾中國研究院院長宋繼強(qiáng)表示，邊緣計(jì)算是巨大的創(chuàng)新機(jī)會(huì)，它是由數(shù)據(jù)和場景驅(qū)動(dòng)的，因此需要進(jìn)行許多垂直整合，優(yōu)化包括算法、應(yīng)用負(fù)載、異構(gòu)計(jì)算的集成等整套系統(tǒng)，而不只是做好一部分底層技術(shù)就可以。

時(shí)擎科技總裁于欣認(rèn)為，邊緣計(jì)算AI芯片的最主要挑戰(zhàn)是如何提高算力的效率。現(xiàn)在已經(jīng)過了通過粗暴的先進(jìn)制程來去堆砌算力的時(shí)代了，特別是面向應(yīng)用和算法的時(shí)候，如何把芯片的算力發(fā)揮出來，是決定未來AI芯片發(fā)展的一個(gè)重要的因素。

靈汐科技副總經(jīng)理華寶洪提到了AI芯片的三大技術(shù)挑戰(zhàn)：

首先是摩爾定律挑戰(zhàn)，半導(dǎo)體光刻技術(shù)已經(jīng)接近極限，目前想要在3nm以下再提升工藝水平已經(jīng)是極為挑戰(zhàn)的技術(shù)難題，而成本、市場與需求之間的平衡，也極大可能難以為繼。相伴而來的還有馮·諾依曼架構(gòu)的瓶頸：高速處理器與數(shù)據(jù)I/O帶寬間的不平衡，高速處理器和低能效比存儲(chǔ)之間的不平衡等，這些因素嚴(yán)重影響了整體效率。

其次是對高能效比與高性價(jià)比的兼顧，既要保證邊緣端用戶享受優(yōu)質(zhì)的算力服務(wù)，又要給予合理的價(jià)位水平。

最后還需要能適應(yīng)邊緣計(jì)算各種復(fù)雜場景的自適應(yīng)能力。如何去處理動(dòng)態(tài)的復(fù)雜的場景？如何去解決沒有大數(shù)據(jù)情況下有限樣本的泛化？如何去面對真實(shí)世界不可被窮舉的數(shù)據(jù)？這些都是現(xiàn)階段AI芯片面臨的挑戰(zhàn)。

Imagination計(jì)算業(yè)務(wù)產(chǎn)品管理總監(jiān)Rob Fisher也強(qiáng)調(diào)，AI芯片要設(shè)計(jì)足夠靈活的架構(gòu)以適應(yīng)新的創(chuàng)新，同時(shí)，與可編程設(shè)備相比，還要實(shí)現(xiàn)高效加速。要達(dá)到這一平衡，既需要足夠的固定功能以獲得性能和效率，通常又要有足夠的可編程性以適應(yīng)新網(wǎng)絡(luò)和算法的發(fā)展速度。

傳統(tǒng)芯片開發(fā)模式受沖擊？

邊緣場景復(fù)雜、算法復(fù)雜、任務(wù)碎片化，體現(xiàn)在硬件層面，芯片底層設(shè)計(jì)要考慮如何用軟件定義硬件，給未來的軟件開發(fā)留出足夠多的調(diào)整迭代空間，達(dá)到應(yīng)用場景的多樣化和復(fù)雜化；體現(xiàn)在軟件棧層面，包括指令集、底層編譯器、高層編譯器、算法、應(yīng)用框架支持等全鏈條，都需要有能力覆蓋和支持。這意味著既有的芯片開發(fā)模式，無論硬件還是軟件層面，都在遭受新的沖擊。

靈汐科技華寶洪認(rèn)為“實(shí)現(xiàn)碎片化產(chǎn)業(yè)的融合”非常關(guān)鍵。芯片設(shè)計(jì)首先要考慮邊緣計(jì)算場景，進(jìn)行定制化的優(yōu)化；一旦流片完成，后續(xù)所有場景和復(fù)雜任務(wù)的更新，都通過軟件來迭代。也就是說，通過軟件定義硬件的模式驅(qū)動(dòng)需求的最終落地，即基于軟硬件解耦技術(shù)屏蔽底層硬件的差異，實(shí)現(xiàn)碎片化應(yīng)用的落地。

事實(shí)上，對于五花八門的芯片架構(gòu)，下游廠商往往無法真正做到“高效地利用硬件資源”。 時(shí)擎科技于欣表示，這就需要芯片原廠做得更多一些，不再是簡單提供一個(gè)芯片，而是針對客戶要求的一個(gè)完整的解決方案。這對于芯片原廠的算法和應(yīng)用開發(fā)能力，肯定是帶來更高挑戰(zhàn)。 “當(dāng)然還有一種辦法，就是把芯片做得更“好用”，對開發(fā)者更友好”，他補(bǔ)充，“這是兩個(gè)努力的方向，本質(zhì)上也不沖突。畢竟芯片原廠根本的出發(fā)點(diǎn)，還是如何更好地配合客戶，以芯片為核心和基礎(chǔ)，提供客戶所需要的增值服務(wù)。”

如何尋求新突破？

時(shí)擎科技于欣認(rèn)為，AI芯片設(shè)計(jì)可以遵循兩個(gè)大的思路：一是如何對開發(fā)者更友好，從而能夠進(jìn)行最優(yōu)化設(shè)計(jì)，讓芯片里的每一個(gè)晶體管都能真正派上用場；二是通過專用的架構(gòu)，讓算法和芯片融合得更緊密。

從目前所看到的主流方向來看，除了智慧安防、智能汽車等，更多是整體智能化生活的演進(jìn)在驅(qū)動(dòng)著邊緣計(jì)算的發(fā)展?！安灰姷帽仨毷切律膱鼍昂驮O(shè)備形態(tài)，目前存量的終端設(shè)備的智能化升級，也是很大的一個(gè)推動(dòng)力。當(dāng)然這是一個(gè)過程，一定需要時(shí)間。而決定這個(gè)過程進(jìn)展快慢的，一方面要看AI技術(shù)是否帶來真正的便利，另一方面還要看成本上是否可行、可落地，從這個(gè)角度來說，物美和價(jià)廉一個(gè)都不能少”，于欣補(bǔ)充。

談及下一步的突破點(diǎn)，靈汐科技華寶洪認(rèn)為“要多向人腦學(xué)習(xí)”。傳統(tǒng)意義上單純依靠堆大數(shù)據(jù)、高算力的方法或?qū)⒊蔀檫^去式，要想有新的突破，必須有新的思路，而類腦計(jì)算就是關(guān)鍵之一。從過往的發(fā)展來看，基于碳基已經(jīng)進(jìn)化到人腦這個(gè)最強(qiáng)大的通用智能體，基于硅芯片已經(jīng)可以輸出一些強(qiáng)大的機(jī)器智能，那么，借鑒腦科學(xué)的基本原理發(fā)展類腦計(jì)算，從而支撐人工通用智能的發(fā)展，是完全有可能的?！邦惸X計(jì)算將有可能成為一把突破傳統(tǒng)AI計(jì)算瓶頸、打開通用人工智能大門的鑰匙，從而也就破解了后摩爾時(shí)代所帶來的新挑戰(zhàn)”，他表示，“此外，邊緣計(jì)算芯片多以SoC為主，可以自研也可以直接采購第三方IP，在此背景下，擁有獨(dú)立研發(fā)AI計(jì)算 IP核的能力也成為了企業(yè)的核心競爭力和突破點(diǎn)。”

關(guān)于AI芯片應(yīng)用的驅(qū)動(dòng)力，Imagination Rob Fisher認(rèn)為，自然語言處理是一大方向。例如最近在語音轉(zhuǎn)意圖引擎領(lǐng)域的研究和開發(fā)，已經(jīng)實(shí)現(xiàn)了在極低功耗架構(gòu)中構(gòu)建精確系統(tǒng)，從而可以加速小型神經(jīng)網(wǎng)絡(luò)。此外還有自動(dòng)駕駛系統(tǒng)，正在推動(dòng)芯片設(shè)計(jì)人員創(chuàng)建極快的加速架構(gòu)，以實(shí)時(shí)處理大量的傳感器數(shù)據(jù)。

邊緣訓(xùn)練尚乏動(dòng)力？

目前在邊緣側(cè)，仍以推理任務(wù)居多。如果要進(jìn)一步滿足低延遲、自適應(yīng)響應(yīng)的要求，是否有必要在邊緣側(cè)進(jìn)行一定量的訓(xùn)練任務(wù)？如果要進(jìn)行訓(xùn)練，還有哪些挑戰(zhàn)需要解決？

上海雪湖科技有限公司副總裁趙小吾認(rèn)為，訓(xùn)練所需要的算力比推理多很多，目前還沒看到太多在邊緣側(cè)進(jìn)行訓(xùn)練的需求。不過，如果自適應(yīng)學(xué)習(xí)模型能滿足邊緣計(jì)算設(shè)備對精度、性能、功耗和成本的要求，相信未來會(huì)看到更多的應(yīng)用需求。

時(shí)擎科技于欣也認(rèn)為短期內(nèi)不會(huì)出現(xiàn)這種需求。絕大部分的訓(xùn)練對延時(shí)、甚至成本并不是非常敏感，這些任務(wù)完全沒有必要放在邊緣去做。他強(qiáng)調(diào)，所有的工作任務(wù)還是有邊界的，還是要揚(yáng)長避短地去完成，這是由內(nèi)在的邏輯決定的，沒有必要為了跨界而去跨界。

靈汐科技華寶洪則表示，車路云協(xié)同、自動(dòng)駕駛等領(lǐng)域，由于實(shí)時(shí)性、安全性的要求，均需要在邊緣側(cè)進(jìn)行訓(xùn)練。未來，在線學(xué)習(xí)、小樣本學(xué)習(xí)、復(fù)雜場景中實(shí)現(xiàn)動(dòng)態(tài)自適應(yīng)調(diào)整等需求都會(huì)在邊緣側(cè)的訓(xùn)練中得到解決。

他認(rèn)為，一方面，邊緣側(cè)仍以CPU、GPU等傳統(tǒng)芯片為主，訓(xùn)練任務(wù)所帶來的高能耗、高價(jià)格等是固有的挑戰(zhàn)；另一方面，邊緣側(cè)的特點(diǎn)決定了在邊緣進(jìn)行訓(xùn)練，將會(huì)面臨大數(shù)據(jù)不足、離線訓(xùn)練時(shí)間代價(jià)高等難題，這些挑戰(zhàn)嚴(yán)重阻滯了邊緣訓(xùn)練的發(fā)展。邊緣訓(xùn)練要取得長足發(fā)展，離不開新型計(jì)算架構(gòu)的支撐，實(shí)現(xiàn)途徑包括在線學(xué)習(xí)、小樣本學(xué)習(xí)等。

方向：走向更強(qiáng)的智能邊緣

智能邊緣確實(shí)是一個(gè)熱詞，未來的市場空間也非常龐大。但是，業(yè)界當(dāng)前對它的理解和部署仍在摸索中。比如，電信運(yùn)營商的移動(dòng)邊緣計(jì)算（Mobile Edge Computing）叫智能邊緣，云廠商、CDN前置的一些業(yè)務(wù)類型也可以叫智能邊緣。未來，各行各業(yè)的數(shù)字化轉(zhuǎn)型雖然都需要進(jìn)行智能邊緣的部署，但是還要取決于具體的應(yīng)用需求，例如延遲、帶寬、價(jià)格和能耗等方面。

從實(shí)現(xiàn)方式來看，現(xiàn)在很多智能邊緣的能力多數(shù)通過一個(gè)盒子（邊緣計(jì)算盒）的形式在提供，能力非常有限，實(shí)際上相當(dāng)于是對MEC簡單的擴(kuò)展，是比較弱的智能邊緣。

英特爾宋繼強(qiáng)表示，如果未來要用在智能制造、港口、礦山等領(lǐng)域，需要網(wǎng)絡(luò)、計(jì)算、存儲(chǔ)等更多功能，那就意味著對數(shù)據(jù)量的處理是巨量的，對AI算力要求更高，而且有實(shí)時(shí)要求。因此，弱的邊緣肯定是不夠的，一定要向更強(qiáng)的邊緣去演進(jìn)。

他認(rèn)為服務(wù)機(jī)器人是邊緣計(jì)算一個(gè)非常典型的應(yīng)用場景，因?yàn)槌掷m(xù)學(xué)習(xí)的能力對于機(jī)器人非常重要。例如未來要走入家庭中起到照顧、陪伴作用的機(jī)器人，它需要具備長期的、可逐步提高的服務(wù)能力，這就需要從具體場景中逐漸學(xué)習(xí)、構(gòu)造對場景的理解。通過進(jìn)一步分析場景中的相互關(guān)聯(lián)，形成機(jī)器人自己的記憶，才能進(jìn)行后續(xù)的能力提升。

如果這個(gè)學(xué)習(xí)過程只靠機(jī)器人自身完成的話，對硬件的要求太高，這就需要用到邊緣計(jì)算，一方面將不需要即時(shí)響應(yīng)的計(jì)算卸到邊緣側(cè)，另一方面也可以利用邊緣計(jì)算進(jìn)行存儲(chǔ)，相當(dāng)于通過智能邊緣，幫助機(jī)器人這類前端設(shè)備，具備了更大的存儲(chǔ)和計(jì)算容量，獲得了自體之外的另一個(gè)“大腦”。

寫在最后

芯片是工業(yè)技術(shù)發(fā)展到極致的體現(xiàn)，包括對零部件精細(xì)度、生產(chǎn)環(huán)境、自身工藝的要求等等，是一個(gè)龐大的系統(tǒng)工程。對于AI芯片來說，除了面臨傳統(tǒng)芯片的問題，挑戰(zhàn)更進(jìn)一步。因?yàn)樵贏I應(yīng)用中，芯片是承載計(jì)算功能的基礎(chǔ)部件，軟件是實(shí)現(xiàn)AI的核心，這是AI芯片從業(yè)者不得不面對的現(xiàn)實(shí)。

不過，經(jīng)過過去幾代IT產(chǎn)業(yè)不斷給萬物云化、智能化帶來新的推動(dòng)力，現(xiàn)在已經(jīng)到了一個(gè)把萬物都智能化的關(guān)鍵階段。新時(shí)代的數(shù)據(jù)盛宴，正是邊緣計(jì)算發(fā)力的絕佳時(shí)期，邊緣AI芯片挑戰(zhàn)不小，蛋糕也不小。