飛槳亮相NVIDIA GTC 2023 軟硬協(xié)同創(chuàng)新夯實AI基建

隨著AI在產(chǎn)業(yè)中的普及應(yīng)用，各類型場景對人工智能算力的需求不斷被釋放，提供訓(xùn)練、推理能力的AI芯片產(chǎn)品百花齊放。而芯片算力的有效利用，需要與成熟的深度學(xué)習(xí)框架適配協(xié)同。

近日，人工智能計算領(lǐng)域的引領(lǐng)者NVIDIA召開了全球開發(fā)者大會GTC 2023，GPU芯片與百度飛槳深度學(xué)習(xí)平臺的合作持續(xù)深入，百度技術(shù)專家特別分享了飛槳如何支持大模型生產(chǎn)和應(yīng)用、大規(guī)模圖學(xué)習(xí)訓(xùn)練技術(shù)PGLBox、端到端大模型開發(fā)套件PaddleFleetX、全場景高性能AI部署工具FastDeploy等前沿內(nèi)容。

深度學(xué)習(xí)框架是連接軟硬件的關(guān)鍵軟件平臺，框架與AI芯片、計算系統(tǒng)的聯(lián)合優(yōu)化是充分釋放算力、實現(xiàn)AI基礎(chǔ)設(shè)施極致優(yōu)化的重點(diǎn)。飛槳作為中國首個自主研發(fā)、開源開放的產(chǎn)業(yè)級深度學(xué)習(xí)平臺，已發(fā)展成為中國市場應(yīng)用規(guī)模第一的深度學(xué)習(xí)框架和賦能平臺，技術(shù)和生態(tài)實力深受廣大硬件廠商認(rèn)可，合作日趨緊密，由此也為開發(fā)者提供了軟硬一體的便捷體驗。

圖：百度AI技術(shù)生態(tài)總經(jīng)理馬艷軍在GTC 2023演講

硬件廠商與飛槳的合作經(jīng)歷了“共聚”“共研”“共創(chuàng)”三個階段，且逐年深入?；贏I基礎(chǔ)軟硬件協(xié)同發(fā)展趨勢的判斷，飛槳于2020年，率先與國內(nèi)外領(lǐng)先的硬件廠商開展對接，獲得積極響應(yīng)和支持。2021年，飛槳與硬件伙伴攜手共研解決適配技術(shù)方案復(fù)雜、成本高等問題，飛槳推出了多層次、低成本的硬件適配統(tǒng)一方案，包括自定義算子庫接入、自定義通信庫等多項基礎(chǔ)軟件改造，硬件伙伴可以根據(jù)硬件特性靈活選擇，極大降低適配成本。截至目前，超過40家硬件廠商與飛槳深度融合優(yōu)化，基本全適配國產(chǎn)芯片。

2022年，飛槳與硬件伙伴從適配優(yōu)化進(jìn)一步發(fā)展到協(xié)同創(chuàng)新的“共創(chuàng)”階段。硬件伙伴希望通過定制版的飛槳框架、模型庫等來豐富其自身的AI軟件棧。飛槳也能通過硬件底層開發(fā)體驗的提升，幫助更多開發(fā)者低門檻實現(xiàn)AI應(yīng)用創(chuàng)新。

NVIDIA與飛槳率先完成了聯(lián)創(chuàng)工作。以NVIDIA合作為范例，飛槳與國內(nèi)外更多硬件伙伴聯(lián)合發(fā)布了基于飛槳開源版的廠商定制版飛槳框架和模型庫等。

據(jù)介紹，NVIDIA將飛槳列為全球前三的深度學(xué)習(xí)框架合作伙伴，在中國設(shè)立了專門的工程團(tuán)隊支持，賦能飛槳。雙方聯(lián)合開發(fā)了三大主要產(chǎn)品：基于NVIDIA?GPU定制優(yōu)化的飛槳容器NGC，包含了最新的NVIDIA工具包（CUDA、DALI等）和優(yōu)化的飛槳版本，為開發(fā)者提供最佳開發(fā)環(huán)境；NVIDIA Deep Learning Examples向用戶提供易于訓(xùn)練和部署的飛槳模型示例；在NVIDIA深度學(xué)習(xí)培訓(xùn)中心（DLI）打造系列免費(fèi)課程及聯(lián)名認(rèn)證證書，幫助開發(fā)者提高訓(xùn)推性能并簡化代碼，并給予權(quán)威認(rèn)可。

百度AI技術(shù)生態(tài)總經(jīng)理馬艷軍在GTC演講中表示，人工智能應(yīng)用的發(fā)展離不開硬件合作伙伴的共同努力。我們聯(lián)合NVIDIA、Intel和Arm等13家合作伙伴共同發(fā)布了飛槳生態(tài)發(fā)行版，實現(xiàn)軟硬件協(xié)同深度優(yōu)化。飛槳“硬件生態(tài)共創(chuàng)計劃”伙伴數(shù)量已達(dá)29家，聚生態(tài)之力，共同打造軟硬一體的全棧式AI平臺，促進(jìn)人工智能產(chǎn)業(yè)鏈高質(zhì)量發(fā)展。

飛槳“硬件生態(tài)共創(chuàng)計劃”主要包含聯(lián)合研發(fā)、資源共享、聯(lián)合授權(quán)、培訓(xùn)賦能四項重點(diǎn)工作，旨在協(xié)同戰(zhàn)略合作伙伴軟硬一體全面共創(chuàng)，以更好地服務(wù)開發(fā)者。

在聯(lián)合研發(fā)方面，飛槳與硬件伙伴成立技術(shù)研發(fā)虛擬聯(lián)合團(tuán)隊，共建聯(lián)合研發(fā)基礎(chǔ)設(shè)施，并對模型進(jìn)行性能優(yōu)化，推出廠商定制版飛槳框架，大大提升飛槳模型在各類AI硬件上的訓(xùn)練推理性能，為開發(fā)者提供更多更好選擇。

在資源共享方面，飛槳與硬件伙伴共享推廣宣傳資源，合作打磨飛槳+硬件廠商特色營銷工具包，并通過品牌活動、賽事、閉門會、數(shù)字化展廳等提供展示平臺，幫助業(yè)務(wù)拓展。

在聯(lián)合授權(quán)方面，飛槳會將與硬件伙伴聯(lián)合優(yōu)化的方案和飛槳的特色能力優(yōu)先推薦給生態(tài)伙伴。飛槳還基于硬件平臺聯(lián)合開發(fā)飛槳一體機(jī)，為企業(yè)提供功能全面、便捷高效、穩(wěn)定可靠的一站式人工智能服務(wù)。

在培訓(xùn)賦能方面，飛槳與硬件伙伴聯(lián)合開發(fā)飛槳+硬件使用開發(fā)教程，并在雙方的學(xué)習(xí)與實訓(xùn)社區(qū)提供系列課程及聯(lián)名認(rèn)證證書。其中，飛槳AI Studio已經(jīng)是全國最大的人工智能學(xué)習(xí)與實訓(xùn)社區(qū)，擁有超過300萬注冊用戶。飛槳AI Studio還開設(shè)了硬件廠商專區(qū)，為開發(fā)者提供體驗更多AI硬件的機(jī)會。

隨著人工智能技術(shù)在各行業(yè)的廣泛應(yīng)用，業(yè)界已從各自獨(dú)立的硬件算力驅(qū)動和算法創(chuàng)新驅(qū)動進(jìn)入到算法和硬件協(xié)同創(chuàng)新階段。飛槳將通過硬件生態(tài)共創(chuàng)計劃，結(jié)合伙伴自有軟硬件基礎(chǔ)開發(fā)棧特色，真正實現(xiàn)軟硬件互聯(lián)互通、創(chuàng)新發(fā)展。

飛槳秉持AI時代操作系統(tǒng)的產(chǎn)業(yè)鏈定位，開放擁抱所有硬件廠商。通過技術(shù)聯(lián)合研發(fā)和生態(tài)共享共創(chuàng)，飛槳將攜手硬件伙伴一起開拓更多軟硬件協(xié)同的產(chǎn)品和服務(wù)，加速人工智能的應(yīng)用落地，推動AI工業(yè)大生產(chǎn)實現(xiàn)進(jìn)程。