踐行“數(shù)據(jù)中心優(yōu)先”策略，賽靈思再發(fā)U50完善Alveo平臺(tái)

IDC 預(yù)測(cè)，到 2025 年，全球?qū)⒂?416 億臺(tái)物聯(lián)網(wǎng)設(shè)備，并將產(chǎn)生 79.4 zettabytes（zb）的數(shù)據(jù)。雖然數(shù)據(jù)被看作未來(lái)的石油，但是同樣也需要強(qiáng)大的算力將無(wú)序的數(shù)據(jù)加以提取，形成有用信息，才能給用戶帶來(lái)價(jià)值。由于數(shù)據(jù)在源源不斷產(chǎn)生，只憑借 CPU 進(jìn)行計(jì)算已經(jīng)遠(yuǎn)遠(yuǎn)無(wú)法滿足需求，于是設(shè)計(jì)人員開(kāi)始采用異構(gòu)架構(gòu)為數(shù)據(jù)中心加速，FPGA 發(fā)揮越來(lái)越大的作用。

作為 FPGA 領(lǐng)域的獨(dú)角獸，賽靈思非常明白自身優(yōu)勢(shì)，去年 3 月，新任 CEO Victor peng 宣布公司從器件到平臺(tái)轉(zhuǎn)型的三大策略，其中非常重要的一項(xiàng)就是數(shù)據(jù)中心優(yōu)先策略。去年 10 月，賽靈思推出了 ACAP 系列產(chǎn)品，同時(shí)推出了面向數(shù)據(jù)中心加速的第一款自適應(yīng)計(jì)算加速卡 Alveo 平臺(tái)，11 月又快速推出了 Alveo 系列 U280 產(chǎn)品，但是賽靈思的愿景是不僅加速計(jì)算，同時(shí)加速網(wǎng)絡(luò)和存儲(chǔ)，因此近期在原來(lái)的基礎(chǔ)上又推出了 Alveo U50，將數(shù)據(jù)中心優(yōu)先策略再次向前推進(jìn)。

據(jù)賽靈思數(shù)據(jù)中心業(yè)務(wù)部產(chǎn)品規(guī)劃和市場(chǎng)營(yíng)銷總監(jiān) Jamon Bowen 介紹，Alveo U50 卡是業(yè)界首款支持第四代 PCIe ( PCIe Gen 4)的加速卡 ，特別為單個(gè)可重配置的 FPGA 平臺(tái)就能大幅加速各種不同的關(guān)鍵計(jì)算、網(wǎng)絡(luò)和存儲(chǔ)工作負(fù)載而設(shè)計(jì)。相對(duì) U280 擅長(zhǎng)計(jì)算，U50 在計(jì)算方面較弱，在網(wǎng)絡(luò)和存儲(chǔ)方面更強(qiáng)。

三大亮點(diǎn)：小尺寸、低功耗、可編程

Alveo U50 具有三大特點(diǎn)：小尺寸、低功耗、可編程。

由于采用 UltraScale+的架構(gòu)，集成了超高帶寬的 HBM2 存儲(chǔ)器技術(shù)，率先使用半高半長(zhǎng)的外形，Alveo U50 尺寸大幅度縮??；通過(guò)支持標(biāo)準(zhǔn)的 PCIe 服務(wù)器插槽和僅相當(dāng)于現(xiàn)有 Alveo 卡 1/3 的功耗，Alveo U50 大幅擴(kuò)展了自適應(yīng)加速技術(shù)可以部署的范圍，從而為要求嚴(yán)苛的計(jì)算、網(wǎng)絡(luò)與存儲(chǔ)工作負(fù)載帶來(lái)了前所未有的高吞吐量與低延時(shí)。8GB HBM2 提供了超過(guò) 400Gbps 的數(shù)據(jù)傳輸速度, QSFP 端口提供了高達(dá) 100 Gbps 的網(wǎng)絡(luò)連接。此外，高速網(wǎng)絡(luò) I/O 還支持各種前沿應(yīng)用，如 NVMe-oF?解決方案（NVM Express over Fabrics?），解耦計(jì)算存儲(chǔ)和專業(yè)金融服務(wù)應(yīng)用。

Jamon Bowen 強(qiáng)調(diào)，U50 采用的是第四代 PCIe 即插即用型卡，這是市面上最前沿的技術(shù)，很多服務(wù)器剛剛開(kāi)始支持這一標(biāo)準(zhǔn)，這種卡對(duì)于存儲(chǔ)加速非常關(guān)鍵。

U50 的重點(diǎn)是計(jì)算、網(wǎng)絡(luò)和存儲(chǔ)加速。Jamon Bowen 對(duì)這一定位的解釋是，現(xiàn)在的總體趨勢(shì)是越來(lái)越多的應(yīng)用需要專用架構(gòu)，要求硬件和算法能夠匹配，從而達(dá)到最佳運(yùn)行效果。每一代網(wǎng)絡(luò)都不盡相同，而且網(wǎng)絡(luò)上的數(shù)據(jù)也不同，數(shù)據(jù)運(yùn)行的要求也不盡相同。這就需要硬件能夠跟上專用架構(gòu)的要求，同時(shí)還要提升性能，硬件能夠發(fā)揮它最優(yōu)的功能。

在數(shù)據(jù)中心客戶經(jīng)常抱怨器件編程非常困難，Alveo 具有開(kāi)放的平臺(tái)和環(huán)境，簡(jiǎn)化了硬件編程的程序，能夠通過(guò)公共平臺(tái)進(jìn)行加速，讓開(kāi)發(fā)者便捷地使用這一平臺(tái)。Jamon Bowen 解釋，隨著越來(lái)越多開(kāi)發(fā)者使用該平臺(tái)，我們會(huì)加入更多產(chǎn)品，實(shí)現(xiàn)原來(lái)只有在軟件部分才有可能的硬件 IP 的靈活應(yīng)變能力。解決包括數(shù)據(jù)分析、視頻與圖象處理、機(jī)器學(xué)習(xí)、生命科學(xué)和金融計(jì)算等領(lǐng)域地問(wèn)題。

對(duì)比 CPU、GPU，性能大幅度提升

加速器性能到底提升多少？對(duì)比一下就會(huì)一目了然。賽靈思官方和 CPU 以及 GPU 進(jìn)行了對(duì)比。

語(yǔ)音翻譯應(yīng)用加速

在語(yǔ)音翻譯應(yīng)用中，CPU 和 GPU 無(wú)法實(shí)現(xiàn)高吞吐量與低時(shí)延推斷性能，可以看出 Alveo U50 是英偉達(dá) GPU T4 地 10 倍。

數(shù)據(jù)分析加速應(yīng)用

在數(shù)據(jù)分析應(yīng)用中，數(shù)據(jù)庫(kù)查詢加速運(yùn)行 TPC-H Query5 體系，對(duì)比英特爾的多核處理器 XEON 系列，加入 Alveo U50 的運(yùn)行速度提升 4 倍，而且其尺寸較小可以加入多張卡，進(jìn)行多倍加速。

金融建模應(yīng)用

對(duì)比英特爾的 CPU 和英偉達(dá)的 GPU，可以看出，一塊 Alveo U50 性能是對(duì)應(yīng) CPU 和 GPU 的 20 倍，值得強(qiáng)調(diào)的是成本只有 GPU 的一半。Jamon Bowen 解釋，我們一直在開(kāi)發(fā)計(jì)算庫(kù)，尤其是量化的開(kāi)發(fā)者能夠在 Alveo 當(dāng)中使用這些數(shù)據(jù)函數(shù)進(jìn)行最優(yōu)化的編碼，同時(shí)能夠在我們這個(gè)平臺(tái)上完成其他的應(yīng)用設(shè)計(jì)，建立這樣一個(gè)模型。這個(gè)對(duì)于計(jì)算加速來(lái)說(shuō)是非常重要的擴(kuò)展，尤其能夠把所有的數(shù)學(xué)函數(shù)都吸收進(jìn)來(lái)。

電子貿(mào)易業(yè)務(wù)

金融界有一個(gè)從技術(shù)到交易的衡量指標(biāo)，就是看你獲得市場(chǎng)數(shù)據(jù)之后下單完成交易之間需要多長(zhǎng)時(shí)間。如果用戶使用 U50，時(shí)延低于 500 納秒，且性能穩(wěn)定。相對(duì)于 CPU，U50 的性能在時(shí)間上是 CPU 的 20 倍。Jamon Bowen 認(rèn)為，使用 Alveo 進(jìn)行加速，能夠在很多網(wǎng)絡(luò)端口完成應(yīng)用的加速，而所需的時(shí)間往往是 CPU 剛剛開(kāi)始進(jìn)行對(duì)話的時(shí)間。

計(jì)算存儲(chǔ)應(yīng)用

在計(jì)算存儲(chǔ)應(yīng)用中，過(guò)去字節(jié)都傳輸?shù)絻?nèi)存才能壓縮、解壓縮等處理，流程非常復(fù)雜，采用 Alveo U50 平臺(tái)，壓縮、解壓縮、擦除編碼、加密都在同一個(gè)平臺(tái)上繼續(xù)寧加速，是 CPU 性能的 20 倍。

再看 Hadoop 加速應(yīng)用，如果要做高性能的計(jì)算，數(shù)據(jù)無(wú)法壓縮，基礎(chǔ)設(shè)施需要擴(kuò)大一倍，而且還需要更多的存儲(chǔ)帶寬。如果采用 U50 既可以保留帶寬也可以進(jìn)行壓縮，而且存儲(chǔ)空間和帶寬只需要原來(lái)的一半。因此部署成本只有原來(lái)的一半，在壓縮的同時(shí)性能不會(huì)受到損失。

對(duì)比兩個(gè)雙 CPU 的服務(wù)器和搭載兩個(gè) Alveo U50 的 Alveo 服務(wù)器，可以看出，前者 192TB，每個(gè)節(jié)點(diǎn)壓縮吞吐量 1GB/s，后者 96TB（192TB 有效），每個(gè)節(jié)點(diǎn)壓縮吞吐量 20GB/s。

為什么賽靈思的硬件運(yùn)行速度改善如此之大？Jamon Bowen 的解釋是，要優(yōu)化性能，要有定制的數(shù)據(jù)途徑，還要有定制的進(jìn)度。具備這兩個(gè)條件后，應(yīng)用才能夠非常順利的進(jìn)行處理，而無(wú)需不斷地進(jìn)到一些存儲(chǔ)的層級(jí)，經(jīng)過(guò)非常復(fù)雜的流程就能直接處理。賽靈思在這方面能夠給硬件加速，可以通過(guò)再編程的方式來(lái)調(diào)整一些設(shè)置。

異構(gòu)計(jì)算是數(shù)據(jù)中心的未來(lái)，很多公司在擁抱加速架構(gòu)為核心的解決方案，U50 不僅能夠提供硬件加速，而且還具有靈活應(yīng)變的特性。Jamon Bowen 認(rèn)為，壓縮技術(shù)日新月異，有 ZS、ZT、LZ，還有超大規(guī)?？蛻舭l(fā)布一些新的壓縮算法。我們能夠在硬件層面上進(jìn)行加速，還能夠在硬件層面上實(shí)現(xiàn)可編程。一旦有了新的標(biāo)準(zhǔn)計(jì)算算法迭代之后，賽靈思就能夠充分利用 FPGA 的靈活性，在我們平臺(tái)上迅速部署，其它競(jìng)爭(zhēng)對(duì)手很難做到。

與非網(wǎng)原創(chuàng)內(nèi)容，未經(jīng)允許，不得轉(zhuǎn)載！