不久前,英特爾宣布以Premier會(huì)員的身份加入PyTorch*基金會(huì),并期待與各行各業(yè)的領(lǐng)軍企業(yè)在開源PyTorch框架和生態(tài)系統(tǒng)上開展合作。PyTorch能夠加速人工智能應(yīng)用的開發(fā),這將促進(jìn)試驗(yàn)與創(chuàng)新,在加速AI發(fā)展方面發(fā)揮關(guān)鍵作用。加入PyTorch基金會(huì),進(jìn)一步彰顯了英特爾致力于通過技術(shù)支持并培育其生態(tài)系統(tǒng)以加速機(jī)器學(xué)習(xí)框架的演進(jìn)。
英特爾自2018年起為PyTorch提供支持,旨在通過豐富的硬件和開放的軟件推動(dòng)AI普及。英特爾正在不斷推進(jìn)PyTorch并拓展生態(tài),以創(chuàng)新為先,推動(dòng)構(gòu)建一個(gè)“AI觸手可及”的未來。
英特爾通過優(yōu)化,提升PyTorch* 2.0功能
PyTorch受益于英特爾為x86提供的諸多優(yōu)化,包括利用英特爾? oneAPI深度神經(jīng)網(wǎng)絡(luò)庫(oneDNN)加速PyTorch,針對(duì)aten算子和BFloat16的優(yōu)化,以及自動(dòng)混合精度支持。英特爾也積極參與PyTorch通用功能(如量化和編譯器)的設(shè)計(jì)與部署,為PyTorch 2.0提供了四個(gè)重要性能特性:
1. 優(yōu)化TorchInductor CPU FP32推理 2. 在PyG中改進(jìn)圖神經(jīng)網(wǎng)絡(luò)(GNN),以支持推理和訓(xùn)練性能 3. 針對(duì)x86 CPU平臺(tái),優(yōu)化了統(tǒng)一量化后端的int8推理
4. 利用oneDNN Graph API加速在CPU上的推理
我們還計(jì)劃在框架的后續(xù)版本中加入新特性。
與PyTorch社區(qū)合作
英特爾的維護(hù)人員積極參與PyTorch社區(qū),以促進(jìn)AI開發(fā)人員、研究人員和行業(yè)專家之間的合作與創(chuàng)新。主要交流活動(dòng)包括:
- PyTorch GitHub問題分類 · 加強(qiáng)PyTorch文檔(如PyTorch Docathon)
- 舉辦會(huì)議和研討會(huì),分享包含PyTorch的英特爾最新應(yīng)用程序 · 發(fā)布技術(shù)博客、文章和白皮書 · 通過PyTorch視頻欄目突出關(guān)鍵技術(shù)材料
進(jìn)一步推動(dòng)PyTorch開放生態(tài)系統(tǒng)
在把最新的優(yōu)化和功能貢獻(xiàn)到PyTorch社區(qū)之前,英特爾發(fā)布了英特爾?PyTorch*擴(kuò)展包(IPEX)包含了這些優(yōu)化和功能,可以讓使用者更早獲得加速和其他助益。擴(kuò)展包以oneAPI跨體系結(jié)構(gòu)編程模型為基礎(chǔ),只需幾行代碼,用戶便可以利用最新的英特爾PyTorch軟件和硬件優(yōu)化。
此外,英特爾針對(duì)GPU的 PyTorch擴(kuò)展包(IPEX)通過最新功能和優(yōu)化擴(kuò)展了PyTorch,從而在英特爾顯卡上獲得額外的性能提升。它在GitHub xpu-master分支的一個(gè)開源項(xiàng)目中發(fā)布。更多詳情,請(qǐng)見發(fā)布說明。
英特爾同時(shí)也為PyTorch生態(tài)系統(tǒng)中的庫提供技術(shù)支持,如torch-serve、PyTorch Geometric、DeepSpeed和Hugging Face Transformers(例如Accelerate、Optimum)。
英特爾加入Linux基金會(huì)AI & Data基金會(huì)
本月早些時(shí)候,英特爾還以Premier會(huì)員身份加入了Linux基金會(huì)AI & Data基金會(huì)。通過加入理事會(huì),英特爾可以提供更多在領(lǐng)導(dǎo)開放創(chuàng)新和培育開發(fā)者社區(qū)的豐
富經(jīng)驗(yàn),幫助制定基金會(huì)AI和數(shù)據(jù)工作的戰(zhàn)略方向,以加速開源AI項(xiàng)目和技術(shù)的發(fā)展。
獲取軟件
開放的生態(tài)可以推動(dòng)行業(yè)創(chuàng)新與加速,英特爾提供了的廣泛的AI優(yōu)化硬件和軟件組合,賦能AI的普及。英特爾期待與合作伙伴密切協(xié)作,推動(dòng)PyTorch社區(qū)和生態(tài)系統(tǒng)向前邁進(jìn)。
試用PyTorch 2.0,感受性能提升。 訪問GitHub頁面,獲得教程及最新的英特爾PyTorch擴(kuò)展包。
PyTorch資源
- PyTorch入門
- 開發(fā)討論
- 文檔
產(chǎn)品和性能信息
1性能會(huì)因用途、配置和其他因素而異。