WAVE SUMMIT+2022飛槳平臺新升級 全面支撐大模型研發(fā)與產(chǎn)業(yè)化

由深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程研究中心主辦、百度飛槳承辦的WAVE SUMMIT+2022深度學(xué)習(xí)開發(fā)者峰會如期舉行。峰會上，百度AI技術(shù)生態(tài)總經(jīng)理馬艷軍發(fā)布了飛槳深度學(xué)習(xí)平臺的最新技術(shù)和生態(tài)進(jìn)展，全新發(fā)布飛槳開源框架2.4版本，帶來業(yè)界首個(gè)端到端大模型開發(fā)套件PaddleFleetX，聯(lián)合12家硬件生態(tài)伙伴發(fā)布飛槳生態(tài)發(fā)行版，AI Studio學(xué)習(xí)與實(shí)訓(xùn)社區(qū)升級推出企業(yè)實(shí)訓(xùn)和生態(tài)異構(gòu)算力中心等等。這一系列舉措標(biāo)志著飛槳持續(xù)夯實(shí)AI技術(shù)基座，不斷深入產(chǎn)業(yè)融合創(chuàng)新。

圖：百度AI技術(shù)生態(tài)總經(jīng)理馬艷軍分享飛槳平臺最新發(fā)布

飛槳開源框架2.4版發(fā)布，以底層技術(shù)創(chuàng)新持續(xù)優(yōu)化性能表現(xiàn)
此次飛槳升級的2.4版本，框架開發(fā)更加靈活便捷，大規(guī)模模型分布式訓(xùn)練持續(xù)領(lǐng)先，并實(shí)現(xiàn)了全場景高性能推理部署。

開發(fā)方面，飛槳開源框架2.4版本針對稀疏計(jì)算、圖學(xué)習(xí)等重要場景新增160多個(gè)API，并且API開發(fā)門檻和成本大幅降低，使此次新增的API中有1/3來自生態(tài)開發(fā)者的貢獻(xiàn)。針對AI for Science場景需求，2.4版實(shí)現(xiàn)了通用的高階自動微分功能，更好地支持科學(xué)計(jì)算相關(guān)應(yīng)用。同時(shí)，飛槳全面提升了核心動轉(zhuǎn)靜技術(shù)的可擴(kuò)展性和部署靈活性，新模型動轉(zhuǎn)靜成功率達(dá)92%，充分發(fā)揮動態(tài)圖和靜態(tài)圖各自優(yōu)勢。

訓(xùn)練方面，2.4版全新升級，推出了基于GPU的超大規(guī)模圖模型訓(xùn)練引擎PGLBox，在業(yè)內(nèi)率先實(shí)現(xiàn)了可同時(shí)支持復(fù)雜算法、超大圖、超大離散模型的一體化圖學(xué)習(xí)方案。另外，飛槳的集合通信分布式訓(xùn)練性能也做到了極致優(yōu)化，為大模型訓(xùn)練提供了全面豐富的分布式訓(xùn)練性能優(yōu)化體系，基于此，飛槳今年連續(xù)兩次獲得國際權(quán)威的AI訓(xùn)練基準(zhǔn)測試MLPerf Training榜單第一。

作為AI實(shí)現(xiàn)產(chǎn)業(yè)落地的“最后一公里”，模型的推理部署過程十分關(guān)鍵。首先對于大模型的推理，飛槳開源框架2.4版支持自適應(yīng)模型切分和分布式推理等功能，依托飛槳框架動轉(zhuǎn)靜能力，可實(shí)現(xiàn)自動深度融合及高性能優(yōu)化，全面支撐大模型應(yīng)用落地。同時(shí)為了從根本上解決AI應(yīng)用落地面臨的場景碎片化、開發(fā)成本高、推理速度慢三大難題，飛槳全新推出的全場景高性能AI部署工具FastDeploy，一站式滿足端、邊、云多場景，多框架與多硬件的部署需求，不僅API設(shè)計(jì)統(tǒng)一，簡單易用，而且還支持自動化壓縮與高性能推理引擎深度聯(lián)動，可充分發(fā)揮軟硬一體融合優(yōu)勢，擁有業(yè)內(nèi)領(lǐng)先的推理性能，為AI產(chǎn)業(yè)應(yīng)用落地提供最優(yōu)解。

持續(xù)降低應(yīng)用門檻，加速AI應(yīng)用落地
大模型的應(yīng)用可以降低AI應(yīng)用的門檻，但大模型開發(fā)、訓(xùn)練、推理部署過程仍具有很大的挑戰(zhàn)。為了更好地支撐大模型應(yīng)用落地，飛槳全新發(fā)布端到端大模型開發(fā)套件PaddleFleetX。PaddleFleetX無縫對接飛槳并行策略并支持定制化組合，可以擴(kuò)展支持更多類型的大模型，開發(fā)者可以根據(jù)模型結(jié)構(gòu)的特點(diǎn)自行選擇并行策略組合，并且支持GPU/NPU/DCU等多硬件平臺的多云環(huán)境的訓(xùn)練調(diào)試。同時(shí)，PaddleFleetX還支持自適應(yīng)分布式推理技術(shù)，真正做到了分布式策略的訓(xùn)推一體，大可支持超大模型的服務(wù)化部署，小可協(xié)同訓(xùn)壓推結(jié)合的豐富小型化策略，實(shí)現(xiàn)端側(cè)輕量化部署。

此次峰會上，飛槳產(chǎn)業(yè)級開源模型庫開源算法新增至600個(gè)以上，覆蓋視覺、自然語言、時(shí)序建模等主流任務(wù)場景；經(jīng)過產(chǎn)業(yè)實(shí)踐打磨的精度與性能平衡PP系列特色模型新增至42個(gè)；飛槳產(chǎn)業(yè)實(shí)踐范例增至68個(gè)，覆蓋金融、工業(yè)、交通、互聯(lián)網(wǎng)、安防、教育等十個(gè)重點(diǎn)行業(yè)場景；發(fā)布飛槳產(chǎn)業(yè)級模型庫一站式入口，聚合模型知識與工具集，打通模型選擇、快速體驗(yàn)、模型開發(fā)與使用、模型部署全流程。飛槳從產(chǎn)業(yè)模型開源、范例參考等方面蓄力，為企業(yè)應(yīng)用AI技術(shù)提供便利支持，共同解決產(chǎn)業(yè)痛點(diǎn)難點(diǎn)。

攜手各領(lǐng)域生態(tài)伙伴共創(chuàng)共享，共同打造繁榮飛槳AI生態(tài)

推動人工智能在產(chǎn)業(yè)中落地應(yīng)用，離不開與硬件生態(tài)伙伴的攜手前行。今年5月，飛槳聯(lián)合硬件生態(tài)伙伴發(fā)布“硬件生態(tài)共創(chuàng)計(jì)劃”，在聯(lián)合研發(fā)、資源共享、聯(lián)合授權(quán)、培訓(xùn)賦能等多個(gè)維度全面合作。截至11月，飛槳“硬件生態(tài)共創(chuàng)計(jì)劃”成員已經(jīng)從13家增加至28家。同時(shí)，飛槳攜手英偉達(dá)、Arm、寒武紀(jì)、昆侖芯、天數(shù)智芯、Graphcore、燧原等12家廠商聯(lián)合發(fā)布了飛槳生態(tài)發(fā)行版，在為開發(fā)者提供更好的軟硬一體化體驗(yàn)的同時(shí)，攜手共建繁榮硬件生態(tài)。

為進(jìn)一步加速AI產(chǎn)業(yè)智能化升級，飛槳深入產(chǎn)業(yè)場景，聯(lián)合國家能源集團(tuán)、中國工商銀行、中國聯(lián)通、中國石油、中國鐵道科學(xué)研究院、中國移動、中國一汽等行業(yè)龍頭企業(yè)，發(fā)布產(chǎn)業(yè)實(shí)踐范例征集計(jì)劃，鏈接企業(yè)與開發(fā)者，解決各行業(yè)實(shí)際產(chǎn)業(yè)場景中的關(guān)鍵問題，助力AI產(chǎn)業(yè)落地。

飛槳建設(shè)的AI Studio學(xué)習(xí)與實(shí)訓(xùn)社區(qū)致力于讓AI學(xué)習(xí)和應(yīng)用更簡單，目前也已成為國內(nèi)最大的AI開發(fā)者社區(qū)。本次峰會上，AI Studio升級新增兩大板塊：企業(yè)實(shí)訓(xùn)和生態(tài)異構(gòu)算力中心。

企業(yè)實(shí)訓(xùn)為企業(yè)應(yīng)用深度學(xué)習(xí)提供了實(shí)訓(xùn)陣地。截至目前，飛槳已與20余家知名企業(yè)聯(lián)合舉辦賽事，共同探索AI應(yīng)用方案，培養(yǎng)AI人才。長期以來，AI Studio為廣大開發(fā)者提供了包括CPU和GPU的豐富算力資源，又接入了曙光DCU算力，為開發(fā)者提供線上體驗(yàn)中心，為硬件基礎(chǔ)設(shè)施提供便捷的體驗(yàn)環(huán)境，生態(tài)異構(gòu)算力中心歡迎更多硬件廠商入駐。

源于產(chǎn)業(yè)實(shí)踐的百度飛槳深度學(xué)習(xí)開源開放平臺，是百度踐行融合創(chuàng)新、降低門檻的AI大生產(chǎn)平臺。未來，隨著深度學(xué)習(xí)核心技術(shù)的持續(xù)深耕，飛槳將更好地支撐AI與大模型落地應(yīng)用，不斷建設(shè)更加繁榮的AI生態(tài)，推動產(chǎn)業(yè)加速實(shí)現(xiàn)智能化升級，讓AI惠及千行百業(yè)。