如今,第三次人工智能浪潮的興起已經(jīng)是一個(gè)不爭(zhēng)的事實(shí)。我們知道這一次的人工智能浪潮不僅僅是一次技術(shù)的創(chuàng)新,更是一場(chǎng)產(chǎn)業(yè)的變革。機(jī)器學(xué)習(xí),特別是深度學(xué)習(xí)等算法的突破、算力和數(shù)據(jù)的井噴,讓 AI 技術(shù)已經(jīng)廣泛應(yīng)用在社會(huì)生產(chǎn)生活的眾多領(lǐng)域。
不過從這一輪 AI 變革的實(shí)質(zhì)來看,深度學(xué)習(xí)算法依然是一種數(shù)據(jù)驅(qū)動(dòng)的一種模擬計(jì)算,目前僅僅在語(yǔ)音、圖像、文字識(shí)別等感知領(lǐng)域有著較強(qiáng)的應(yīng)用,距離人類更加復(fù)雜的因果推理、假設(shè)聯(lián)想等高級(jí)認(rèn)知能力還有很遠(yuǎn)距離,甚至有著本質(zhì)的差別。
在從當(dāng)前弱人工智能通向強(qiáng)人工智能,以致于通用人工智能的道路上,學(xué)術(shù)界正在推動(dòng)以類腦智能和類腦計(jì)算為方向的新的研究方向,來實(shí)現(xiàn)由弱到強(qiáng)的人工智能的升級(jí)。
剛剛結(jié)束的 2020 世界人工智能大會(huì)(WAIC)上,來自復(fù)旦大學(xué)類腦智能科學(xué)與技術(shù)研究院的林偉教授在“認(rèn)知智能,改變世界”行業(yè)論壇中提到,“類腦智能已成為人工智能跨越式發(fā)展的突破口?!?/p>
類腦智能和類腦計(jì)算到底是什么,與現(xiàn)有經(jīng)典計(jì)算和當(dāng)前的 AI 技術(shù)有哪些不同,是否真的能夠擔(dān)此“跨越式”的重任?面對(duì)如此多問題,這次我們就來一探“類腦智能”的究竟。
類腦計(jì)算:打破馮·諾依曼架構(gòu)禁錮
實(shí)現(xiàn)類腦智能的前提的實(shí)現(xiàn)類腦計(jì)算。在了解類腦計(jì)算之前,我們簡(jiǎn)單聊下現(xiàn)在主流的計(jì)算機(jī)架構(gòu)——馮·諾依曼架構(gòu)。
眾所周知,現(xiàn)有計(jì)算機(jī)都是基于“馮·諾依曼”架構(gòu)實(shí)現(xiàn)的,其處理器工作原理就是按分時(shí)復(fù)用的方式,將高維信息的處理過程轉(zhuǎn)換成時(shí)間序列的一維處理過程。這一計(jì)算架構(gòu)的特點(diǎn)是計(jì)算與存儲(chǔ)分離,結(jié)構(gòu)簡(jiǎn)潔、易于實(shí)現(xiàn)高速數(shù)值計(jì)算。
(馮·諾依曼計(jì)算架構(gòu))
不過,馮·諾依曼架構(gòu)在處理包含非結(jié)構(gòu)化、時(shí)空關(guān)聯(lián)信息的感知、認(rèn)知以及決策等相關(guān)問題時(shí),表現(xiàn)出效率低、能耗高、實(shí)時(shí)性差等問題,甚至無法構(gòu)造合適的算法。比如當(dāng)今最先進(jìn)的計(jì)算機(jī),也難以完成一只昆蟲能夠輕易實(shí)現(xiàn)的環(huán)境感知與適應(yīng)等相關(guān)任務(wù)。
而人類大腦卻是一個(gè)與馮·諾依曼架構(gòu)正好相反的“計(jì)算器”,雖然人腦不擅長(zhǎng)高速率大規(guī)模數(shù)值計(jì)算,但是人腦可以在有限尺寸和極低能耗下,完成復(fù)雜環(huán)境下的信息關(guān)聯(lián)記憶、自主識(shí)別、自主學(xué)習(xí)等認(rèn)知處理,實(shí)現(xiàn)這一“計(jì)算”的基礎(chǔ)正是腦神經(jīng)網(wǎng)絡(luò)的多層次復(fù)雜空間結(jié)構(gòu)和腦神經(jīng)的高度可塑性。
基于人腦的這些特點(diǎn),科學(xué)家們提出非馮·諾依曼架構(gòu)的類腦計(jì)算,就是借鑒大腦神經(jīng)網(wǎng)絡(luò),存儲(chǔ)計(jì)算一體化,將高維信息放在多層、多粒度、高可塑性的復(fù)雜網(wǎng)絡(luò)空間中進(jìn)行處理,使其具有低功耗、高魯棒性、高效并行、自適應(yīng)等特點(diǎn)。
類腦計(jì)算既適用于處理復(fù)雜環(huán)境下非結(jié)構(gòu)化信息,又有利于發(fā)展自主學(xué)習(xí)機(jī)制,甚至最終有望模擬出大腦的創(chuàng)造性,實(shí)現(xiàn)類腦智能,這種更具通用性的人工智能。
我們回過頭來再看推動(dòng)當(dāng)前產(chǎn)業(yè)智能變革的 AI 技術(shù)。深度學(xué)習(xí)是在一定程度上對(duì)人類神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行的模擬,但其過程要依靠現(xiàn)有的經(jīng)典“馮·諾依曼”架構(gòu)的計(jì)算方式,使用優(yōu)化問題建模并求解,其實(shí)質(zhì)仍然是按照分時(shí)序列的計(jì)算,所以會(huì)呈現(xiàn)出算力要求高、數(shù)據(jù)計(jì)算量大的特點(diǎn)。
現(xiàn)有的人工智能技術(shù)大多數(shù)能夠處理的問題具有以下特點(diǎn):1、充足的數(shù)據(jù);2、單一、確定的問題;3、完備的知識(shí);4、靜態(tài)。因此為一個(gè)問題提供一個(gè)解決方案,使得現(xiàn)有的人工智能仍然屬于弱人工智能的范疇。
當(dāng)我們要處理超出這些條件的復(fù)雜問題的時(shí)候,現(xiàn)有 AI 技術(shù)就會(huì)遇到困難,而我們就需要更具人類智能特點(diǎn)的通用人工智能(AGI)。
類腦計(jì)算以及由此產(chǎn)生的類腦智能,就是人們?yōu)閷?shí)現(xiàn) AGI 的方法之一。
“舊神退散,新神未立”:類腦智能正在路上
2017 年計(jì)算機(jī)圖靈獎(jiǎng)的得主大衛(wèi)·帕特森和約翰·軒尼詩(shī)表示說,“未來十年是計(jì)算架構(gòu)發(fā)展的黃金十年?!?/p>
當(dāng)前,傳統(tǒng)計(jì)算架構(gòu)的“舊神”正迎來挑戰(zhàn),全新計(jì)算架構(gòu)的“新神”尚未確立,而類腦計(jì)算正是試圖爭(zhēng)奪全新計(jì)算架構(gòu)的“新神”之一。
馮·諾依曼和圖靈當(dāng)時(shí)已經(jīng)提到計(jì)算機(jī)要實(shí)現(xiàn)對(duì)于人腦的模仿,但由于經(jīng)典計(jì)算更加易于實(shí)現(xiàn),因此朝著“摩爾定律”規(guī)定的方向一路狂奔。而麥卡洛克等人在 1943 年提出單個(gè)神經(jīng)元計(jì)算模型,可被認(rèn)為是最早的仿腦研究,而到了七八十年代,部分學(xué)者開始關(guān)注采用更接近于生物大腦系統(tǒng)的計(jì)算機(jī)制的研究方法。
1990 年,美國(guó)加州理工大學(xué)卡弗·米德教授嘗試用硬件電路來模擬神經(jīng)網(wǎng)絡(luò),提出了“神經(jīng)擬態(tài)計(jì)算”的概念,并將其定義為“采用以模擬器件仿真生物神經(jīng)系統(tǒng)的 VLSI 來實(shí)現(xiàn)大規(guī)模并行的自適應(yīng)計(jì)算系統(tǒng)”。
“神經(jīng)擬態(tài)計(jì)算”正式開啟了類腦計(jì)算的研究和實(shí)踐。類腦計(jì)算主要以“人造超級(jí)大腦”為目標(biāo),借鑒人腦的信息處理方式,模擬大腦神經(jīng)系統(tǒng),構(gòu)建以計(jì)算為基礎(chǔ)的“虛擬人腦”。
Nature在 2016 年提到,類腦計(jì)算成為后摩爾定律時(shí)代極具潛力的發(fā)展方向之一,成為繼第一階段的 GPU,第二階段的 ASIC 加速器之后,在推動(dòng) AI 的計(jì)算上面發(fā)揮巨大潛力。
現(xiàn)在,全球主要發(fā)達(dá)地區(qū)的國(guó)家、高校和技術(shù)公司都已經(jīng)摩拳擦掌,紛紛開始類腦計(jì)算和類腦智能的研究。
日本在 2008 年就提出了“腦科學(xué)戰(zhàn)略研究項(xiàng)目”,重點(diǎn)開展腦機(jī)接口、腦計(jì)算機(jī)研發(fā)和神經(jīng)信息相關(guān)的理論構(gòu)建;歐盟在 2013 年提出“人類腦計(jì)劃”(HBP),重點(diǎn)開展人腦模擬、神經(jīng)形態(tài)計(jì)算、神經(jīng)機(jī)器人等領(lǐng)域研究;美國(guó)也同時(shí)啟動(dòng)了“BRAIN 計(jì)劃”,將大腦結(jié)構(gòu)圖建立、類腦相關(guān)理論建模、腦機(jī)接口等列為研發(fā)重點(diǎn);韓國(guó)在 2016 年發(fā)布《腦科學(xué)研究戰(zhàn)略》,重視腦神經(jīng)信息學(xué)、腦工程學(xué)、人工神經(jīng)網(wǎng)絡(luò)、大腦仿真計(jì)算機(jī)等領(lǐng)域的研發(fā)。
全球頂尖高校和技術(shù)公司也加入了類腦計(jì)算和類腦智能的布局。IBM 推出了 TrueNorth 類腦芯片,試圖搶先打造類腦計(jì)算系統(tǒng);受歐盟腦計(jì)劃支持的英國(guó)曼徹斯特大學(xué)和德國(guó)海德堡大學(xué)研發(fā)的神經(jīng)擬態(tài)計(jì)算系統(tǒng),分別推出了 SpiNNaker 芯片和 BrainScaleS 芯片。
此外,像微軟提出了意識(shí)網(wǎng)絡(luò)架構(gòu),聲稱是具備可解釋性的新型類腦系統(tǒng);谷歌在現(xiàn)有谷歌大腦基礎(chǔ)上結(jié)合醫(yī)學(xué)、生物學(xué)積極布局人工智能。
我國(guó)積極加速類腦智能計(jì)劃。比如我國(guó)在 2016 年《“十三五”國(guó)家科技創(chuàng)新規(guī)劃》也將腦科學(xué)與類腦研究列入科技創(chuàng)新 2030 重大項(xiàng)目。2017 年國(guó)務(wù)院《新一代人工智能發(fā)展規(guī)劃》提出,2030 年類腦智能領(lǐng)域取得重大突破的發(fā)展目標(biāo)。在 2017、2018 年,我國(guó)分別成立了類腦智能技術(shù)及應(yīng)用國(guó)家工程實(shí)驗(yàn)室、北京腦科學(xué)與類腦研究中心,形成了“南腦北腦”共同快速發(fā)展的格局。
當(dāng)然,現(xiàn)在類腦計(jì)算的發(fā)展仍然處在初期的探索階段。
正如我們上面提到的歐洲“人類腦計(jì)劃”,就在去年曝出耗盡 10 億歐元之后,試圖“完全模擬人腦”的計(jì)劃并沒有取得計(jì)劃中的進(jìn)展,并沒有做出突破性的研究成果。
不過,這一通過傳統(tǒng)計(jì)算方式來還原大腦結(jié)構(gòu)的方式的失敗并不能證明類腦計(jì)算行不通,反而更加說明了通過全新的計(jì)算架構(gòu)來模擬神經(jīng)網(wǎng)絡(luò)的計(jì)算方式的根本性轉(zhuǎn)向的重要性。
邁向 AGI,類腦智能提供新可能
在通向通用人工智能的道路上,類腦智能已經(jīng)被認(rèn)為是最有希望的方案之一。
與經(jīng)典技術(shù)中,將多維度信息轉(zhuǎn)化為一維的數(shù)值計(jì)算的信息流,以提高單位時(shí)間的運(yùn)算速度這一提高時(shí)間復(fù)雜性的計(jì)算方向不同,類腦計(jì)算更強(qiáng)調(diào)模擬人腦的復(fù)雜的神經(jīng)元連接架構(gòu)(不是直接還原神經(jīng)元的連接),把多維世界中的信息擴(kuò)展到更復(fù)雜的空間中去,利用空間的復(fù)雜性來解決計(jì)算問題,甚至同時(shí)利用時(shí)空的復(fù)雜性,來解決計(jì)算問題。
所以,集成眾多神經(jīng)元數(shù)量、突觸數(shù)量以及存算一體的神經(jīng)元處理單元數(shù)量的類腦芯片,為完成仿真或模擬提供計(jì)算、存儲(chǔ)、通信等基礎(chǔ)硬件支持,是實(shí)現(xiàn)類腦計(jì)算的關(guān)鍵因素。而構(gòu)建類腦計(jì)算芯片的陣列集成系統(tǒng),是目前國(guó)際通行的大規(guī)模類腦計(jì)算系統(tǒng)的技術(shù)路線。
比如,今年 3 月,英特爾用 768 個(gè) Loihi 芯片構(gòu)造了一個(gè)新的神經(jīng)擬態(tài)研究系統(tǒng) Pohoiki Springs,達(dá)到了 1 億個(gè)神經(jīng)元的規(guī)模,比上一次構(gòu)建的系統(tǒng) Pohoiki Beach 的 64 個(gè)芯片 800 萬個(gè)神經(jīng)元,擴(kuò)大了 12 倍的規(guī)模。
類腦計(jì)算芯片作為實(shí)現(xiàn)類腦通用人工智能的硬件基礎(chǔ),既是神經(jīng)科學(xué)模型的仿真平臺(tái),又是新計(jì)算范式、新體系結(jié)構(gòu)的原型。這一點(diǎn)從清華大學(xué)的天機(jī)芯片的研究成果中,也得以清晰的體現(xiàn)。
去年 8 月,清華大學(xué)開發(fā)出全球首款異構(gòu)融合類腦芯片,被命名為“天機(jī)芯”(Tianjic),相關(guān)論文《面向通用人工智能的異構(gòu)天機(jī)芯片架構(gòu)》作為封面文章登上了Nature。
這一異構(gòu)融合芯片配置有多個(gè)高度可重構(gòu)的功能性核,可以同時(shí)支持機(jī)器學(xué)習(xí)算法和現(xiàn)有類腦計(jì)算的算法。相比于當(dāng)前 IBM 推出的 TrueNorth 芯片,新一代“天機(jī)芯”功能更全、靈活性和擴(kuò)展性更好,密度提升 20%,速度提高至少 10 倍,帶寬提高至少 100 倍。
去年,在清華大學(xué)操場(chǎng)上,由這一類腦芯片支持,實(shí)現(xiàn)自動(dòng)駕駛的一輛自行車更是成為 AI 圈“刷屏”的網(wǎng)紅車。這輛車僅用一個(gè)芯片,就可以在無人駕駛自行車系統(tǒng)中同時(shí)處理多種算法和模型,實(shí)現(xiàn)實(shí)時(shí)目標(biāo)檢測(cè)、跟蹤、語(yǔ)音控制、避障和平衡控制。
從天機(jī)芯片結(jié)合計(jì)算機(jī)科學(xué)和神經(jīng)科學(xué)兩個(gè)主要方向,發(fā)展而成的融合計(jì)算平臺(tái),成為現(xiàn)在實(shí)現(xiàn)類腦計(jì)算的較好的解決方案,為學(xué)術(shù)界貢獻(xiàn)了一種通向 AGI 的新發(fā)展思路。
現(xiàn)在,類腦計(jì)算目前還沒有統(tǒng)一的技術(shù)方案。在當(dāng)前學(xué)術(shù)界提供的實(shí)現(xiàn)方案中,有采用數(shù)模混合實(shí)現(xiàn)的 Neurogrid 和 BrianScaleS;有異步純數(shù)字實(shí)現(xiàn)的 TrueNorth、Loihi;有采用同步純數(shù)字實(shí)現(xiàn)的天機(jī)等等解決方案。
在實(shí)現(xiàn)通用人工智能(AGI)的道路上,主要有計(jì)算機(jī)科學(xué)導(dǎo)向和神經(jīng)科學(xué)兩大方向而將二者緊密結(jié)合可能是當(dāng)下來看的最佳實(shí)現(xiàn)方案。
超級(jí)計(jì)算機(jī)的發(fā)展能夠帶給科學(xué)家更好推進(jìn)計(jì)算模擬的進(jìn)程;互聯(lián)網(wǎng)、大數(shù)據(jù)和云計(jì)算的發(fā)展可以構(gòu)造一個(gè)無比復(fù)雜的數(shù)字世界,可以形成與數(shù)字大腦類比的復(fù)雜鏡像世界。而由于新的測(cè)量技術(shù)和納米材料等基礎(chǔ)技術(shù)的發(fā)展,又正在逐步揭開人類大腦的結(jié)構(gòu)和運(yùn)行原理,并且為我們開發(fā)出高效能、高密度的芯片器件提供了基礎(chǔ)。
而這些正在構(gòu)成發(fā)展類腦智能的基礎(chǔ)條件,也是未來通向通用人工智能的有利契機(jī)。