神經(jīng)擬態(tài)計(jì)算的商業(yè)化,需要三管齊下。
英特爾今天推出第二代神經(jīng)擬態(tài)研究芯片Loihi 2,每個(gè)芯片最多有100萬個(gè)神經(jīng)元。
Loihi2采用了預(yù)生產(chǎn)版本的Intel 4制程節(jié)點(diǎn),Loihi則采用英特爾14nm工藝,與以往的制程技術(shù)相比,Intel 4制程節(jié)點(diǎn)采用的極紫外光刻(EUV)技術(shù)簡化了布局設(shè)計(jì)規(guī)則,使Loihi 2的快速開發(fā)成為可能。
神經(jīng)擬態(tài)計(jì)算是在傳統(tǒng)半導(dǎo)體工藝和芯片架構(gòu)上的一種嘗試和突破,通過模擬人腦神經(jīng)元的構(gòu)造和神經(jīng)元之間互聯(lián)的機(jī)制,能夠在低功耗以及少量訓(xùn)練數(shù)據(jù)的條件下持續(xù)不斷自我學(xué)習(xí),大幅提高了能效比。
神經(jīng)元作為神經(jīng)擬態(tài)計(jì)算突破的關(guān)鍵,Loihi 2相比上一代芯片神經(jīng)元數(shù)量提升了8倍,基于核心大小為0.21 mm2 的Loihi 2,最多支持 8192 個(gè)神經(jīng)元,對比核心尺寸為0.41 mm2的Loihi,最多支持1024 個(gè)神經(jīng)元。
Loihi2之所以能夠在芯片面積為二分之一的前提下實(shí)現(xiàn)八倍的神經(jīng)元數(shù)量提升,制造工藝是關(guān)鍵。英特爾此前介紹,Intel 4是其首個(gè)完全采用極紫外光刻(EUV)技術(shù)的制程節(jié)點(diǎn),EUV也將成為英特爾實(shí)現(xiàn)再次實(shí)現(xiàn)制程領(lǐng)先的關(guān)鍵。
除了硬件,與神經(jīng)擬態(tài)芯片匹配的軟件也非常重要。與Loihi2一起發(fā)布的還有用于開發(fā)神經(jīng)啟發(fā)應(yīng)用的開源軟件框架Lava,具備開放、模塊化、可擴(kuò)展的特性。Lava允許研究人員和應(yīng)用開發(fā)人員在彼此取得的成果上進(jìn)一步開發(fā),并集中到一組通用的工具、方法和函數(shù)庫中。
同時(shí),Lava能夠在跨越傳統(tǒng)和神經(jīng)擬態(tài)處理器的異構(gòu)架構(gòu)上無縫運(yùn)行,實(shí)現(xiàn)跨平臺(tái)執(zhí)行以及與各種人工智能、神經(jīng)擬態(tài)和機(jī)器人框架的互操作性。開發(fā)人員無需使用專門的神經(jīng)擬態(tài)硬件即可開始構(gòu)建神經(jīng)擬態(tài)應(yīng)用,并且可以為Lava代碼庫做出貢獻(xiàn),包括將其移植到其他平臺(tái)上運(yùn)行。
“洛斯阿拉莫斯國家實(shí)驗(yàn)室的研究人員一直在使用Loihi神經(jīng)擬態(tài)平臺(tái)來研究量子計(jì)算與神經(jīng)擬態(tài)計(jì)算之間的權(quán)衡,并在芯片級上實(shí)現(xiàn)學(xué)習(xí)流程。這項(xiàng)研究顯示了脈沖神經(jīng)網(wǎng)絡(luò)和量子退火路徑在解決硬優(yōu)化問題上一些激動(dòng)人心的等效性。”洛斯阿拉莫斯國家實(shí)驗(yàn)室科學(xué)家Gerd J. Kunde表示,“除此之外,我們還證明了之前被認(rèn)為無法在神經(jīng)擬態(tài)架構(gòu)上實(shí)現(xiàn)的反向傳播算法(訓(xùn)練神經(jīng)網(wǎng)絡(luò)的基本構(gòu)建模塊)可以在Loihi上高效地實(shí)現(xiàn)。我們的團(tuán)隊(duì)很高興能夠借助Loihi 2芯片繼續(xù)進(jìn)行這項(xiàng)研究。”
早期的評估表明,與在原始版本的Loihi上運(yùn)行的標(biāo)準(zhǔn)深度網(wǎng)絡(luò)相比,在準(zhǔn)確性沒有降低的情況下,Loihi 2上每次推理的運(yùn)算次數(shù)減少了60多倍。
在連接性和集成方面,Loihi 2芯片將支持以太網(wǎng)接口,與更廣泛的基于事件的視覺傳感器實(shí)現(xiàn)無膠合集成,同時(shí)Loihi 2芯片還擁有更大的網(wǎng)狀網(wǎng)絡(luò),這解決了Loihi中客觀存在的一處局限。
當(dāng)然,神經(jīng)擬態(tài)計(jì)算的發(fā)展也需要各方的努力,英特爾此前已經(jīng)成立了英特爾神經(jīng)擬態(tài)研究社區(qū)(INRC),目前INRC已增加到約150個(gè)成員機(jī)構(gòu),今年新增的成員包括福特(Ford)、佐治亞理工學(xué)院(Georgia Institute of Technology)、美國西南研究院(SwRI)、美國菲力爾公司(Teledyne FLIR)。
英特爾目前通過神經(jīng)擬態(tài)研究云服務(wù)向加入INRC的成員提供兩個(gè)基于Loihi 2的神經(jīng)擬態(tài)系統(tǒng):用于早期評估的單芯片系統(tǒng)Oheo Gulch和即將開放的八芯片系統(tǒng)Kapoho Point。Lava 軟件框架可在GitHub 上免費(fèi)下載。Loihi 2和Lava的演示教程將在10月舉辦的“Intel Innovation”活動(dòng)中呈現(xiàn)。
至于神經(jīng)擬態(tài)計(jì)算的商業(yè)化,則需要“三管齊下”,首先,需要根據(jù)算法和應(yīng)用研究的結(jié)果對神經(jīng)擬態(tài)硬件進(jìn)行持續(xù)地迭代改進(jìn)。其次,還需要開發(fā)通用的跨平臺(tái)軟件框架,以便開發(fā)人員可以對來自不同開發(fā)群體的最佳算法理念進(jìn)行基準(zhǔn)測試、整合和改進(jìn);最后,產(chǎn)業(yè)界、學(xué)術(shù)界和政府領(lǐng)域之間要深入合作,建立一個(gè)豐富、高效的神經(jīng)擬態(tài)生態(tài)系統(tǒng),以探索近期可實(shí)現(xiàn)商業(yè)價(jià)值的落地。