面向數(shù)字化的未來(lái),IT基礎(chǔ)設(shè)施軟硬件供應(yīng)商、設(shè)備商正在繼續(xù)優(yōu)化分布式基礎(chǔ)設(shè)施的性能、效率和安全特性,以通過(guò)軟硬件的協(xié)同創(chuàng)新,進(jìn)一步為數(shù)據(jù)的處理和利用創(chuàng)造更大價(jià)值。
日前,NVIDIA與戴爾科技宣布推出一款專為AI時(shí)代設(shè)計(jì)的全新數(shù)據(jù)中心解決方案,可帶來(lái)先進(jìn)的AI訓(xùn)練、AI推理、數(shù)據(jù)處理、數(shù)據(jù)科學(xué)和零信任安全能力。該解決方案結(jié)合了戴爾PowerEdge服務(wù)器、NVIDIA BlueField DPU 、NVIDIA GPU和NVIDIA AI Enterprise 軟件,并針對(duì)最新發(fā)布的VMware vSphere 8企業(yè)工作負(fù)載平臺(tái)進(jìn)行了優(yōu)化。
AI與安全需求——數(shù)據(jù)中心基礎(chǔ)設(shè)施演進(jìn)的強(qiáng)大動(dòng)力
數(shù)據(jù)中心基礎(chǔ)設(shè)施一直在不斷演進(jìn),且海量、多樣的邊緣工作負(fù)載正在加劇這一進(jìn)程。帶有AI/ML和分析功能的分布式現(xiàn)代化應(yīng)用,正在利用加速器,并提供更高的安全性作為主流應(yīng)用基礎(chǔ)設(shè)施的一部分,從而推動(dòng)數(shù)據(jù)中心架構(gòu)的轉(zhuǎn)型。
NVIDIA企業(yè)計(jì)算負(fù)責(zé)人Manuvir Das表示:“隨著計(jì)算和網(wǎng)絡(luò)工作負(fù)載的激增,AI與零信任安全已成為一股推動(dòng)全球企業(yè)重構(gòu)數(shù)據(jù)中心的強(qiáng)大力量。VMware vSphere 8將數(shù)據(jù)中心基礎(chǔ)設(shè)施服務(wù)卸載到NVIDIA BlueField DPU上,并對(duì)這些服務(wù)進(jìn)行加速、隔離、加強(qiáng)對(duì)它們的保護(hù),同時(shí)為全球企業(yè)釋放出用于處理智能工廠的計(jì)算資源?!?/p>
據(jù)了解,在BlueField DPU上運(yùn)行vSphere 8可大幅提高工作負(fù)載性能。通過(guò)將工作負(fù)載卸載到DPU,用戶可以加速網(wǎng)絡(luò)和安全服務(wù),并節(jié)省CPU周期,同時(shí)保持性能,滿足現(xiàn)代分布式工作負(fù)載的吞吐量和延遲要求。這一組合提高了性能與效率、簡(jiǎn)化了運(yùn)營(yíng)并增強(qiáng)了數(shù)據(jù)中心、邊緣、云和混合環(huán)境的基礎(chǔ)設(shè)施安全。
在GPU加速數(shù)據(jù)中心領(lǐng)域,NVIDIA與戴爾一直保持合作,并推動(dòng)了大規(guī)模的突破。如今,在戴爾的PowerEdge服務(wù)器平臺(tái)中內(nèi)置了NVIDIA BlueField DPU和NVIDIA GPU,以及最新的VMware vSphere 8,可為關(guān)鍵的企業(yè)云應(yīng)用提供先進(jìn)的性能和效率,同時(shí)更加有效地防止企業(yè)在多云環(huán)境中受到橫向威脅。據(jù)了解,搭載NVIDIA BlueField-2 DPU+vSphere 8的戴爾服務(wù)器,將于今年晚些時(shí)候上市。
NVIDIA AI Enterprise即將支持VMware vSphere 8
企業(yè)在部署和管理AI應(yīng)用時(shí),面對(duì)不同工作負(fù)載或是大規(guī)模AI模型部署時(shí),開(kāi)發(fā)周期長(zhǎng)、對(duì)開(kāi)發(fā)人員/IT運(yùn)維人員的技術(shù)能力要求高,是普遍的難題。運(yùn)營(yíng)成本、易用性、對(duì)不同場(chǎng)景的適配能力、安全要求——成為當(dāng)前AI落地企業(yè)基礎(chǔ)設(shè)施應(yīng)用最主要的挑戰(zhàn)。
應(yīng)對(duì)上述難題,NVIDIA早先已經(jīng)與VMware在AI企業(yè)級(jí)平臺(tái)方面展開(kāi)合作,聯(lián)合發(fā)布了AI就緒型企業(yè)級(jí)平臺(tái)?;谶@一合作,NVIDIA的AI Enterprise軟件套件可以在VMware的 vSphere 7環(huán)境中運(yùn)行并進(jìn)行AI應(yīng)用優(yōu)化。對(duì)于數(shù)十萬(wàn)家使用vSphere進(jìn)行計(jì)算虛擬化的企業(yè)而言,這一合作為他們加速CUDA應(yīng)用、AI框架、模型和SDK實(shí)現(xiàn)了擴(kuò)展性、多節(jié)點(diǎn)性能和兼容性。
內(nèi)置VMware vSphere的NVIDIA AI Enterprise現(xiàn)已上市,企業(yè)可以在NVIDIA LaunchPad上體驗(yàn)這些技術(shù)組合(NVIDIA LaunchPad是一項(xiàng)動(dòng)手實(shí)驗(yàn)室計(jì)劃,可以為AI、數(shù)據(jù)科學(xué)等領(lǐng)域的端到端工作流提供軟硬件權(quán)限)。
并且,NVIDIA AI Enterprise即將支持VMware vSphere 8,包括對(duì)更大規(guī)模的多GPU工作負(fù)載、資源優(yōu)化和GPU生命周期的輕松管理提供支持。
根據(jù)官方發(fā)布,在BlueField DPU上運(yùn)行vSphere,能夠?qū)⒎?wù)器效率提升22%,以1000臺(tái)服務(wù)器的裝機(jī)量來(lái)看,3年的效率提升將能夠節(jié)省180萬(wàn)美元。
寫(xiě)在最后
NVIDIA AI Enterprise是一套全面的云原生AI和數(shù)據(jù)分析軟件套件,為使企業(yè)能夠在熟悉的基礎(chǔ)設(shè)施上使用AI做了專門(mén)的優(yōu)化。這套軟件可以部署在從企業(yè)數(shù)據(jù)中心到公有云的任何地方,保證AI項(xiàng)目的正常運(yùn)行。
VMware vSphere是VMware的虛擬化平臺(tái),可將數(shù)據(jù)中心轉(zhuǎn)換為包括CPU、GPU、存儲(chǔ)和網(wǎng)絡(luò)資源的聚合計(jì)算基礎(chǔ)架構(gòu),并對(duì)這一統(tǒng)一的運(yùn)行環(huán)境進(jìn)行管理。
據(jù)NVIDIA官方信息,在BlueField DPU上運(yùn)行vSphere 8可以說(shuō)是企業(yè)級(jí)計(jì)算的一個(gè)“huge moment”。VMware相當(dāng)于為企業(yè)級(jí)計(jì)算提供操作系統(tǒng),通過(guò)vSphere 8+BlueField DPU的軟硬件協(xié)同合作,能夠簡(jiǎn)化基礎(chǔ)設(shè)施和工作負(fù)載管理,進(jìn)一步提升效率和安全性,從而實(shí)現(xiàn)更好的用戶體驗(yàn),為更大規(guī)模應(yīng)用打下堅(jiān)實(shí)基礎(chǔ)。