新銳丨基于FPGA打造，百度昆侖芯片有多能打

作為 Al 芯片的積極布局者與應用者，百度對外發(fā)布 AI 云端芯片“昆侖”，備受業(yè)界矚目。在中國產(chǎn)業(yè)智能化進程的逐步深入，市場對于 AI 算力的需求超大規(guī)模增長，在端側(cè)部署 AI 芯片也成為企業(yè)應用 AI 的重要一環(huán)。

?

芯片領(lǐng)域成為熱點

我國在人工智能芯片領(lǐng)域不斷取得創(chuàng)新突破。各個平臺型企業(yè)也紛紛基于數(shù)據(jù)、算法和應用優(yōu)勢，宣布進軍人工智能芯片領(lǐng)域。AI 領(lǐng)域已經(jīng)成為世界科技巨頭爭奪的制高點， AI 應用的爆發(fā)對運算能力提出越來越高的要求，基于傳統(tǒng)芯片的 AI 運算加速，已經(jīng)不能滿足需求。

軟件領(lǐng)域的谷歌、Facbook，硬件廠商英偉達、英特爾等全都宣布了自己的芯片規(guī)劃以及未來遠景。在這個大背景下，以百度昆侖芯片為代表的國產(chǎn)技術(shù)，能夠突破國際巨頭技術(shù)體系的壓制，成為國內(nèi)業(yè)界普遍關(guān)注國產(chǎn)代表。

國內(nèi)首款云端全功能芯片

中國首款云端 Al 全功能 AI 芯片“昆侖”是中國在大規(guī)模 AI 運算實踐中催生出的芯片。

與市面上已發(fā)布的適用于垂直場景的芯片不同，百度之所以將“昆侖”定義為國內(nèi)首款云端全功能芯片，是因為其可高效地同時滿足訓練和推斷的需求，除了常用深度學習算法等云端需求，還能適配諸如自然語言處理，大規(guī)模語音識別，自動駕駛，大規(guī)模推薦等具體終端場景的計算需求。

基于 FPGA 打造的昆侖芯片

眾所周知，GPU 是打造 AI 芯片的重要手段之一。百度昆侖芯片是基于 FPGA 所打造的 AI 芯片采用了 XPU 架構(gòu)。在 FPGA 方面，百度擁有超過 8 年的 FPGAAI 加速器積累，累計上線超過了 1 萬個。其 XPU 架構(gòu)及軟件棧也在實際業(yè)務中，有了超過 8 年的持續(xù)迭代。

昆侖芯片與 GPU 和專用 AI 芯片相比，在實行性能和性價比上都有一定的優(yōu)勢。昆侖芯片非常通用且靈活，既可以做訓練也可以做推理，XPU 的功能架構(gòu)也在百度內(nèi)部很多應用中得到驗證，相對而言，它是一款全功能的 Al 芯片。
?

昆侖芯片的閃光點

百度昆侖采用了 14nm 三星工藝、260Tops 性能、512GB/s 內(nèi)存帶寬、100+?瓦特功耗，由幾萬個小核心構(gòu)成。昆侖芯片可以在 100 瓦+功耗下提供 260TOPS ，每秒 260 萬億次定數(shù)運算性能。此前，NVIDIA 用于汽車 L 4.L .5 自動駕駛的 Xavier 芯片，8 核 ARM CPU+512 顆 CUDA 的性能是 30TOPS。

架構(gòu)方面：昆侖芯片有 2 個計算單元，512GB/S 的內(nèi)存帶寬，16MBSRAM/unit。16MB 的 SRAM 對 AI 推理很有幫助，XPU 架構(gòu)上的 XPU-SDNN 是為 Tensor 等而設計，XPU-Cluster 則能夠滿足通用處理的需求。

昆侖第一代芯片沒有采用 NVLink，而是通過 PCIE4.0 接口進行互聯(lián)。在三星 14nm 的制造工藝和 2.5D 封裝的支持下，昆侖芯片峰值性能可以達到 260TOPS，功耗為 150W。

在靈活性和易用性方面：昆侖面向開發(fā)者提供類似英偉達 CUDA 的軟件棧，可以通過 C/C++語言進行編程，降低開發(fā)者的開發(fā)難度。

基于第一代昆侖芯片，百度推出了兩款 AI 加速卡，K100 和 K200，前者算力和功耗都是后者的兩倍。在語音常用的 Bert/Ernie 測試模型下，昆侖也有明顯性能優(yōu)勢。在線上性能數(shù)據(jù)的表現(xiàn)上，昆侖的表現(xiàn)相比英偉達 T4 更加穩(wěn)定，且延遲也有優(yōu)勢。

強強合作提升領(lǐng)域發(fā)展

2019 年 12 月 18 日，三星宣布代工百度首款云到邊緣 AI 芯片“昆侖”，借由三星 14 納米處理技術(shù)及其 I-Cube（Interposer-Cube）封裝解決方案生產(chǎn)。

三星的 14nm 工藝是其最廣泛使用的制造節(jié)點之一，該工藝的晶體管密度為 32.5 MTr /mm，主要用于英偉達的 GeForce 10 系列，以及許多高通和三星芯片。它有多種變體，包括 14nm LPE（Low Power Early）和 14nm LPP（Low Power Plus）。

目前昆侖芯片已完成開發(fā)，并將批量生產(chǎn)。昆侖芯片首先將會用于百度的自家產(chǎn)品當中，能解決工業(yè)智能遇到的計算問題以及和飛騰 ARM 處理器的適配。

昆侖芯片未來落腳點

工業(yè)上百度昆侖芯片也正式在微億智造的工業(yè)智能質(zhì)檢設備上部署上線。百度智能云以整機一體化方式，向微億智造交付搭載百度昆侖芯片的百度云質(zhì)檢一體機。

預計在今年以內(nèi)，微億智造的數(shù)千臺智能質(zhì)檢設備將全部應用上百度昆侖芯片，而百度昆侖還將在更多場景中部署應用，百度的 AI 能力將成為“新基建”的重要基礎，推動工業(yè)制造業(yè)的產(chǎn)業(yè)智能化升級。

結(jié)尾

未來“昆侖”既將實現(xiàn)對數(shù)據(jù)中心、公有云等云端場景的全覆蓋，也將用于滿足自然語言處理、語音識別、自動駕駛等終端場景的計算需求。此次“昆侖”能成功落地，有望形成人工智能芯片與平臺應用相互促進的良性循環(huán)。