加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長(zhǎng)期合作伙伴
立即加入
  • 正文
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

大模型時(shí)代的AI之變與開(kāi)發(fā)之根

2021/09/29
304
閱讀需 11 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

自2018年谷歌發(fā)布Bert以來(lái),預(yù)訓(xùn)練大模型以強(qiáng)大的算法效果,席卷了NLP為代表的各大AI榜單與測(cè)試數(shù)據(jù)集。隨著產(chǎn)學(xué)研各界的深入研究,大模型在AI產(chǎn)學(xué)研各界的地位得到不斷加強(qiáng)。到2021年,我們可以看到各大學(xué)術(shù)機(jī)構(gòu)、科技企業(yè)都在打造自己的大模型,并且將其能力邊界、技術(shù)路徑進(jìn)行了極大拓展。

有人認(rèn)為,AI大模型的到來(lái)讓這項(xiàng)技術(shù)完成了從實(shí)驗(yàn)室到工業(yè)化集成的轉(zhuǎn)變。如果說(shuō)過(guò)去的AI開(kāi)發(fā)需要手工作坊模式的調(diào)參、調(diào)優(yōu)、數(shù)據(jù)積累,那么大模型則預(yù)先集成了海量數(shù)據(jù)的訓(xùn)練效果,企業(yè)與科研用戶拿到手中就是一個(gè)“智力”強(qiáng)大、效果客觀的完成品。于是極大程度節(jié)省了重復(fù)開(kāi)發(fā)成本,降低了開(kāi)發(fā)門檻。

大模型的價(jià)值涌現(xiàn)出來(lái),下一個(gè)問(wèn)題隨之誕生:打造大模型需要人工智能算力、網(wǎng)絡(luò)、框架等一系列條件形成有效支撐,才能讓大模型真正“大”起來(lái)。大模型能夠持續(xù)發(fā)展的前提,是必須打造強(qiáng)壯的AI根技術(shù),在框架、算力等層面滿足大模型的“建造”需求。

不久之前,中科院自動(dòng)化所發(fā)布了全球首個(gè)三模態(tài)大模型——紫東.太初。

而這項(xiàng)技術(shù)成果的背后,是中科院自動(dòng)化所與華為攜手,利用全場(chǎng)景AI框架MindSpore對(duì)大模型開(kāi)發(fā)進(jìn)行了一系列支撐。9月25日, 在華為全聯(lián)接2021上,MindSpore中文名“昇思”發(fā)布,同時(shí)推出昇思1.5版本。這一版本強(qiáng)化全場(chǎng)景能力、原生支持大模型,并新增AI科學(xué)計(jì)算新范式,發(fā)布電磁仿真套件和分子模擬套件,促進(jìn)AI應(yīng)用于科學(xué)計(jì)算領(lǐng)域。

我們就借此機(jī)會(huì),聊聊大模型如何從昇思1.5中汲取營(yíng)養(yǎng);持續(xù)打造大模型,需要開(kāi)發(fā)框架帶來(lái)怎樣的根技術(shù)支持。

時(shí)代的召喚:

大模型推動(dòng)AI之變

預(yù)訓(xùn)練大模型發(fā)展到今天,已經(jīng)經(jīng)歷了三年多的時(shí)間。期間最具“出圈”效應(yīng)的大模型,可能就要屬2020年OpenAI發(fā)布的NLP大模型GPT-3。

GPT-3首次實(shí)現(xiàn)了千億級(jí)數(shù)據(jù)參數(shù),除了傳統(tǒng)的NLP能力之外,還可以算術(shù)、編程、寫小說(shuō)、寫論文摘要,一時(shí)之間成為輿論熱點(diǎn)。GPT-3的出現(xiàn),讓各界看到了大模型的潛力, 也讓中國(guó)開(kāi)發(fā)自己的大模型成為了“時(shí)代的召喚”。

從產(chǎn)業(yè)價(jià)值上看,預(yù)訓(xùn)練大模型帶來(lái)了一系列可能性,讓產(chǎn)學(xué)研各界看到了由弱人工智能走向強(qiáng)人工智能;由重復(fù)開(kāi)發(fā)、手工作坊式人工智能,走向工業(yè)化、集成化智能的全新路徑??梢哉f(shuō),大模型是近兩年AI持續(xù)變革的核心動(dòng)力,也是AI走入千行百業(yè)、各學(xué)科領(lǐng)域的關(guān)鍵支柱。

于是我們可以看到,中國(guó)的科技企業(yè)、學(xué)術(shù)科研機(jī)構(gòu)紛紛開(kāi)始加碼大模型,并且在不同路徑上進(jìn)行探索和嘗試。比如說(shuō),Bert和GPT都是NLP領(lǐng)域的大模型,缺乏對(duì)圖形圖像數(shù)據(jù)與多模態(tài)數(shù)據(jù)的處理能力。因此,多模態(tài)大模型成為了重要的研究方向。集成語(yǔ)音、文本、圖像、視頻等各個(gè)模態(tài)信息的處理模式,也更加貼近人類感知,具有更高的社會(huì)價(jià)值。

對(duì)于產(chǎn)學(xué)各界來(lái)說(shuō),數(shù)據(jù)量大、訓(xùn)練效果好、網(wǎng)絡(luò)拓?fù)?/a>結(jié)構(gòu)緊湊,同時(shí)又容易獲取的預(yù)訓(xùn)練大模型,都是未來(lái)學(xué)術(shù)研究、AI開(kāi)發(fā)、產(chǎn)業(yè)升級(jí)的基礎(chǔ)和關(guān)鍵。大模型將很有可能改變AI的研究范式,成為不同領(lǐng)域的共性基礎(chǔ)平臺(tái)。

中科院自動(dòng)化所就瞄準(zhǔn)這一方向,成功構(gòu)建了視覺(jué)-文本-語(yǔ)音三模態(tài)預(yù)訓(xùn)練模型——紫東.太初。而在其背后,華為提供的昇思1.5框架的能力,成為了打造大模型的利劍。

駛向多模態(tài):

紫東.太初的獨(dú)特價(jià)值

破混沌,開(kāi)新局,紫東.太初這個(gè)極具魄力與東方文化質(zhì)感的名字屬于全球首個(gè)三模態(tài)大模型(OPT-Omni-Perception pre Trainer)。它能夠?qū)崿F(xiàn)圖文音語(yǔ)義的統(tǒng)一表達(dá),將視覺(jué)、文本、語(yǔ)音三種模態(tài)統(tǒng)一起來(lái),實(shí)現(xiàn)以文搜圖,以圖生音等跨模特理解與生成能力,這標(biāo)志著預(yù)訓(xùn)練模型工作獲得突破性進(jìn)展。

目前階段,產(chǎn)學(xué)研界最多的大模型就是NLP大模型,其次是CV大模型。而多模態(tài)大模型作為新生事物,基本也考慮的是兩個(gè)模態(tài)之間的協(xié)同轉(zhuǎn)化。比如圖像與文本、視頻與文本,并且能力更多是集中在生成或理解中的一項(xiàng),很少能夠兼顧。

紫東.太初為了解決這些問(wèn)題,提出了視覺(jué)-文本-語(yǔ)音三模態(tài)預(yù)訓(xùn)練模型。通過(guò)將視覺(jué)、文本、語(yǔ)音不同模態(tài)數(shù)據(jù)各自編碼器,映射到統(tǒng)一語(yǔ)義空間,然后通過(guò)多頭自注意力機(jī)制(Multi-head Self-attention)學(xué)習(xí)模態(tài)之間的語(yǔ)義關(guān)聯(lián)以及特征對(duì)齊,形成多模態(tài)統(tǒng)一知識(shí)表示,再利用編碼后的多模態(tài)特征,最終通過(guò)解碼器分別生成文本、圖像和語(yǔ)音。經(jīng)過(guò)這樣的對(duì)齊與轉(zhuǎn)化,大模型可以更加關(guān)注圖-文-音三模態(tài)數(shù)據(jù)之間的關(guān)聯(lián)特性以及跨模態(tài)轉(zhuǎn)換問(wèn)題,對(duì)更廣泛、更多樣的下游任務(wù)提供模型基礎(chǔ)支撐。最終,多模態(tài)大模型不僅可以實(shí)現(xiàn)跨模態(tài)理解,還能完成跨模態(tài)生成,極大程度提升了學(xué)習(xí)框架的靈活性,有效降低了多模態(tài)數(shù)據(jù)的收集與清洗成本。

由于三模態(tài)大模型非常接近人類的信息處理方式,其對(duì)信息數(shù)據(jù)有非常好的協(xié)同掌握能力,因此可以非常廣泛地應(yīng)用于產(chǎn)學(xué)各領(lǐng)域,孵化出更多新應(yīng)用。紫東.太初目前已經(jīng)具備全球領(lǐng)先的圖文音跨模態(tài)理解與生成能力,可輕松完成智能問(wèn)答、圖片生成、視頻理解與等任務(wù),這些能力將在工業(yè)質(zhì)檢、影視創(chuàng)作、互聯(lián)網(wǎng)推薦、智能駕駛等領(lǐng)域廣泛應(yīng)用。

而面向產(chǎn)業(yè)上游看,我們會(huì)發(fā)現(xiàn)紫東.太初的打造,得益于昇騰AI的產(chǎn)業(yè)底座。尤其是昇思對(duì)大模型的原生支持,讓大模型具備了快速開(kāi)發(fā)、精準(zhǔn)訓(xùn)練的“開(kāi)發(fā)之根”。

根強(qiáng)則AI強(qiáng):

昇思支持大模型時(shí)代到來(lái)

在MindSpore 全新升級(jí)的1.5版本中,我們不僅見(jiàn)到了全新的中文名——昇思,更重要的是見(jiàn)到了昇思新版本對(duì)科學(xué)研究、AI基礎(chǔ)開(kāi)發(fā)的全新適配能力,展現(xiàn)了昇騰AI產(chǎn)業(yè)對(duì)新銳產(chǎn)學(xué)動(dòng)向的洞察和滿足。

在科研工作中,AI開(kāi)發(fā)經(jīng)常是一件成本巨大、容錯(cuò)率極低的工作。算力、數(shù)據(jù)、基礎(chǔ)模型和開(kāi)發(fā)套件都會(huì)成為科研工作中的AI開(kāi)發(fā)難題。面對(duì)這些問(wèn)題,昇思1.5不僅極大提升了對(duì)大模型的適配能力,還強(qiáng)化升級(jí)了科學(xué)計(jì)算引擎,全面加強(qiáng)了對(duì)學(xué)術(shù)界、工業(yè)界的AI開(kāi)發(fā)支持。

在大模型支持方面,昇思1.5版本實(shí)現(xiàn)了原生支持大模型,能夠在業(yè)界率先支持全自動(dòng)并行AI處理。在大模型訓(xùn)練中,可以同時(shí)使用數(shù)據(jù)并行、算子級(jí)模型并行、Pipeline 模型并行、優(yōu)化器模型并行、異構(gòu)并行、重計(jì)算、高效內(nèi)存復(fù)用多維度、全種類的分布式并行策略;并且原創(chuàng)集群拓?fù)涓兄亩嗑S度自動(dòng)混合并行,實(shí)現(xiàn)超大模型自動(dòng)切分,顯著提升集群加速能力;新的 DNN分布式并行編程范式,可以實(shí)現(xiàn)低代碼算法切換,大幅節(jié)省開(kāi)發(fā)時(shí)間。

面對(duì)結(jié)構(gòu)復(fù)雜、訓(xùn)練開(kāi)銷巨大、訓(xùn)練時(shí)間漫長(zhǎng)的多模態(tài)大模型,新的昇思特性可以極大提升訓(xùn)練加速能力,同時(shí)減少系統(tǒng)性能優(yōu)化代價(jià),降低代碼開(kāi)發(fā)工作力,從而綜合性地減少調(diào)試與訓(xùn)練周期。

在這樣的框架能力升級(jí)中,會(huì)有更多創(chuàng)新性強(qiáng)、訓(xùn)練數(shù)據(jù)規(guī)模大的預(yù)訓(xùn)練大模型在昇思的支撐下發(fā)展起來(lái)。昇思自然也就名副其實(shí)成為了大模型的“根技術(shù)”。

目前,基于昇思訓(xùn)練的大模型除了已經(jīng)發(fā)布的全球首個(gè)中文預(yù)訓(xùn)練大模型鵬程.盤古、全球首個(gè)三模型預(yù)訓(xùn)練大模型紫東.太初,還有即將發(fā)布的智能遙感大模型、語(yǔ)音大模型等等,可以說(shuō)昇思框架對(duì)大模型支持的能力是業(yè)界首屈一指的。

與此同時(shí),昇思1.5還新增了對(duì)外開(kāi)放機(jī)制等諸多新特性,尤其注重在科研創(chuàng)新和應(yīng)用領(lǐng)域的支持。通過(guò)多尺度混合計(jì)算和高階混合微分兩大關(guān)鍵創(chuàng)新,將原有的 AI 計(jì)算引擎升級(jí)為 AI 與科學(xué)計(jì)算的統(tǒng)一引擎,實(shí)現(xiàn)融合的統(tǒng)一加速。在此基礎(chǔ)上,未來(lái)昇思將面向 8 大科學(xué)計(jì)算場(chǎng)景推出 MindScience 系列套件??茖W(xué)計(jì)算套件包含業(yè)界領(lǐng)先的數(shù)據(jù)集、基礎(chǔ)模型、預(yù)置高精度模型和前后處理工具,可以加速科學(xué)行業(yè)應(yīng)用開(kāi)發(fā)。

昇思將持續(xù)加強(qiáng)對(duì)科研領(lǐng)域AI開(kāi)發(fā)的支持,尤其是為大模型這種“國(guó)之重器”的訓(xùn)練底座。同時(shí),昇騰社區(qū)和昇思MindSpore社區(qū)也會(huì)加強(qiáng)對(duì)大模型開(kāi)源開(kāi)放的支持。目前,昇思社區(qū)下載量已經(jīng)突破60萬(wàn),社區(qū)貢獻(xiàn)者超過(guò)3500人。昇思正在與產(chǎn)學(xué)研各界一同推進(jìn)開(kāi)源開(kāi)放,讓大模型真正成為科學(xué)之基、產(chǎn)業(yè)之本。

預(yù)訓(xùn)練大模型正在推動(dòng)一場(chǎng)AI新變革。而在關(guān)注這場(chǎng)變革之前,我們更應(yīng)該關(guān)注根技術(shù)、根平臺(tái)的打造與建設(shè)。

堅(jiān)實(shí)的產(chǎn)業(yè)基礎(chǔ)之上,才能產(chǎn)學(xué)各界萬(wàn)花盛放。AI大模型之變,應(yīng)該有強(qiáng)壯的根。

谷歌

谷歌

谷歌公司(Google Inc.)成立于1998年9月4日,由拉里·佩奇和謝爾蓋·布林共同創(chuàng)建,被公認(rèn)為全球最大的搜索引擎公司。谷歌是一家位于美國(guó)的跨國(guó)科技企業(yè),業(yè)務(wù)包括互聯(lián)網(wǎng)搜索、云計(jì)算、廣告技術(shù)等,同時(shí)開(kāi)發(fā)并提供大量基于互聯(lián)網(wǎng)的產(chǎn)品與服務(wù),其主要利潤(rùn)來(lái)自于關(guān)鍵詞廣告等服務(wù)。

谷歌公司(Google Inc.)成立于1998年9月4日,由拉里·佩奇和謝爾蓋·布林共同創(chuàng)建,被公認(rèn)為全球最大的搜索引擎公司。谷歌是一家位于美國(guó)的跨國(guó)科技企業(yè),業(yè)務(wù)包括互聯(lián)網(wǎng)搜索、云計(jì)算、廣告技術(shù)等,同時(shí)開(kāi)發(fā)并提供大量基于互聯(lián)網(wǎng)的產(chǎn)品與服務(wù),其主要利潤(rùn)來(lái)自于關(guān)鍵詞廣告等服務(wù)。收起

查看更多

相關(guān)推薦

電子產(chǎn)業(yè)圖譜