今日,以“芯加速 行至遠(yuǎn)”為主題的第四代英特爾?至強(qiáng)?新品發(fā)布會在北京正大中心盛大舉行。會上,英特爾正式推出第四代英特爾?至強(qiáng)?可擴(kuò)展處理器(代號“Sapphire Rapids”)、英特爾?至強(qiáng)?CPU Max系列(代號“Sapphire Rapids HBM”)以及英特爾?數(shù)據(jù)中心GPU Max系列(代號“Ponte Vecchio”),在實(shí)現(xiàn)數(shù)據(jù)中心性能、能效和安全性大幅躍升的同時,為AI、云、網(wǎng)絡(luò)、邊緣和全球領(lǐng)先的超級計算機(jī)帶來全新功能。
基于第四代英特爾至強(qiáng)可擴(kuò)展平臺,英特爾攜手客戶及產(chǎn)業(yè)伙伴密切合作,大規(guī)模提供差異化解決方案和系統(tǒng)以助力其解決算力挑戰(zhàn)。英特爾致力于通過其獨(dú)特的以結(jié)果為導(dǎo)向、工作負(fù)載至上的策略,及針對特定工作負(fù)載高度優(yōu)化的軟件,為不同工作負(fù)載和需求匹配對應(yīng)的功耗和性能,并實(shí)現(xiàn)理想的總體擁有成本。會上,來自騰訊云、天翼云、京東云、阿里云、火山引擎、吉利汽車、浪潮信息與亞信科技的伙伴亦分享了其如何基于全新英特爾數(shù)據(jù)中心產(chǎn)品推動產(chǎn)品、技術(shù)創(chuàng)新,及在諸多領(lǐng)域落地的成功實(shí)踐。
此外,值得注意的是,作為英特爾迄今為止最具可持續(xù)性的數(shù)據(jù)中心處理器,第四代英特爾至強(qiáng)可擴(kuò)展處理器為客戶提供一系列功能,以優(yōu)化產(chǎn)品功率和性能,旨在通過充分利用CPU資源助力其實(shí)現(xiàn)可持續(xù)發(fā)展的目標(biāo)。
英特爾執(zhí)行副總裁兼數(shù)據(jù)中心與人工智能事業(yè)部總經(jīng)理Sandra Rivera表示:“第四代英特爾至強(qiáng)可擴(kuò)展處理器和Max系列產(chǎn)品的發(fā)布,對于推動英特爾在數(shù)據(jù)中心領(lǐng)域闊步前行,增強(qiáng)數(shù)據(jù)中心領(lǐng)域的領(lǐng)導(dǎo)地位,以及進(jìn)一步探索新領(lǐng)域的發(fā)展機(jī)會極具意義。第四代英特爾至強(qiáng)可擴(kuò)展處理器和Max系列產(chǎn)品能夠滿足客戶真實(shí)所需,即在安全的環(huán)境中兼具領(lǐng)先的性能和可靠性,不僅能夠滿足客戶的實(shí)際應(yīng)用需求,亦有助于其加速實(shí)現(xiàn)業(yè)務(wù)價值及創(chuàng)新?!?/p>
發(fā)布會上,英特爾市場營銷集團(tuán)副總裁兼中國區(qū)總經(jīng)理王稚聰與英特爾市場營銷集團(tuán)副總裁、中國區(qū)數(shù)據(jù)中心銷售總經(jīng)理兼中國區(qū)運(yùn)營商銷售總經(jīng)理莊秉翰亦分別進(jìn)行分享。王稚聰在致辭中指出:“數(shù)字經(jīng)濟(jì)已成為經(jīng)濟(jì)高質(zhì)量發(fā)展的重要支撐,值此經(jīng)濟(jì)發(fā)展回穩(wěn)走強(qiáng)之際,半導(dǎo)體行業(yè)的新增長機(jī)會亦接踵而至。籍此,英特爾將在‘五大超級技術(shù)力量’的驅(qū)動下,推動產(chǎn)品和技術(shù)創(chuàng)新,為生態(tài)伙伴持續(xù)賦能,助力產(chǎn)業(yè)向縱深發(fā)展,進(jìn)而為我國經(jīng)濟(jì)發(fā)展再添新動力。”
英特爾市場營銷集團(tuán)副總裁兼中國區(qū)總經(jīng)理王稚聰現(xiàn)場致辭
不同于目前市場上的其它數(shù)據(jù)中心處理器,第四代至強(qiáng)家族充分體現(xiàn)了英特爾以結(jié)果為導(dǎo)向、工作負(fù)載至上的策略。
英特爾市場營銷集團(tuán)副總裁、中國區(qū)數(shù)據(jù)中心銷售總經(jīng)理兼中國區(qū)運(yùn)營商銷售總經(jīng)理莊秉翰
展示第四代英特爾至強(qiáng)可擴(kuò)展處理器晶圓
豐富的內(nèi)置加速器帶來領(lǐng)先的性能和可持續(xù)發(fā)展優(yōu)勢
目前,至強(qiáng)處理器的安裝量已超過一億——從運(yùn)行IT服務(wù)的本地服務(wù)器,其中包括全新的即服務(wù)商業(yè)模式,到管理互聯(lián)網(wǎng)流量的網(wǎng)絡(luò)設(shè)備,再到進(jìn)行邊緣計算的無線基站和云服務(wù)等。
基于數(shù)十年來在數(shù)據(jù)中心、網(wǎng)絡(luò)和智能邊緣領(lǐng)域的創(chuàng)新和領(lǐng)導(dǎo)地位,全新第四代英特爾至強(qiáng)可擴(kuò)展處理器通過豐富的內(nèi)置加速器提供領(lǐng)先的性能,解決客戶在AI、分析、網(wǎng)絡(luò)、安全、存儲和科學(xué)計算領(lǐng)域面臨的重大計算挑戰(zhàn)。
與前一代相比,第四代英特爾至強(qiáng)可擴(kuò)展處理器通過內(nèi)置加速器將目標(biāo)工作負(fù)載的平均每瓦性能提升了2.9倍1,在優(yōu)化電源模式下每個CPU節(jié)能高達(dá)70瓦2并對性能只產(chǎn)生極低的影響,同時將總體擁有成本降低52%到66%3。
可持續(xù)性
第四代英特爾至強(qiáng)可擴(kuò)展處理器擁有豐富的內(nèi)置加速器,意味著英特爾能夠提供平臺級的功率節(jié)省,并緩解對額外獨(dú)立加速方面的需求,幫助客戶實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)。此外,新的優(yōu)化電源模式可以為某些工作負(fù)載帶來高達(dá)20%的插槽節(jié)能,而對性能的影響僅有不到5%11。風(fēng)冷和液冷的創(chuàng)新進(jìn)一步降低了數(shù)據(jù)中心的總能耗,且第四代至強(qiáng)可擴(kuò)展處理器在英特爾工廠制造時,運(yùn)用了超過90%的可再生電力,并同時配備了一流的水資源回收設(shè)施。
人工智能
在AI方面,與前一代相比,通過內(nèi)置英特爾?高級矩陣擴(kuò)展(英特爾?AMX)加速器,第四代英特爾至強(qiáng)可擴(kuò)展處理器將PyTorch實(shí)時推理和訓(xùn)練性能提升了10倍5,6。第四代英特爾至強(qiáng)還將廣泛的AI工作負(fù)載的推理和訓(xùn)練性能提升到新的高度。英特爾至強(qiáng)CPU Max系列在這些功能的基礎(chǔ)上針對自然語言處理進(jìn)行了擴(kuò)展,將大型語言模型的處理速度提升多達(dá)20倍12。借助英特爾的AI軟件套件,開發(fā)者可以使用自己選擇的AI工具,提高生產(chǎn)力并加快AI開發(fā)速度。該套件可以從工作站進(jìn)行移植,使其可以在云中擴(kuò)展,并一直擴(kuò)展到邊緣。同時,該套件已經(jīng)針對400多個機(jī)器學(xué)習(xí)和深度學(xué)習(xí)AI模型進(jìn)行了驗(yàn)證,涵蓋所有商業(yè)細(xì)分領(lǐng)域最常見的AI應(yīng)用場景。
網(wǎng)絡(luò)
第四代英特爾至強(qiáng)包含一系列針對高性能、低時延網(wǎng)絡(luò)和邊緣工作負(fù)載進(jìn)行了特別優(yōu)化的處理器產(chǎn)品。對于如今電信、零售、制造和智慧城市等行業(yè)正在推動更加軟件定義的未來,這些處理器將發(fā)揮關(guān)鍵性基石作用。對于5G核心工作負(fù)載,內(nèi)置加速器有助于提高吞吐量和降低時延,而電源管理的升級則提高了平臺的響應(yīng)能力和能效。此外,與前幾代相比,第四代英特爾至強(qiáng)在不增加功耗的情況下提供多達(dá)兩倍的虛擬無線接入網(wǎng)(vRAN)容量。這使通信服務(wù)提供商能夠?qū)⒚客咝阅芴岣咭槐?,滿足其關(guān)鍵的性能、擴(kuò)展和能效需求。
科學(xué)計算
第四代英特爾至強(qiáng)可擴(kuò)展處理器和英特爾Max系列產(chǎn)品具備可擴(kuò)展、平衡的架構(gòu),其中整合了CPU、GPU和oneAPI的開放軟件生態(tài)系統(tǒng),適用于科學(xué)計算和AI等領(lǐng)域要求嚴(yán)苛的計算工作負(fù)載,旨在幫助解決全球最具挑戰(zhàn)性的問題。
英特爾至強(qiáng)CPU Max系列是集成高帶寬內(nèi)存的x86處理器,能夠在無需變更代碼的情況下為科學(xué)計算工作負(fù)載加速。英特爾數(shù)據(jù)中心GPU Max系列提供極高的計算密度,且具有多種產(chǎn)品規(guī)格以滿足不同的客戶需求。
英特爾至強(qiáng)CPU Max系列可提供64GB的高帶寬內(nèi)存(HBM2e),為科學(xué)計算和AI工作負(fù)載大幅提高了數(shù)據(jù)吞吐量。與第三代英特爾?至強(qiáng)?可擴(kuò)展處理器的高端SKU相比,英特爾至強(qiáng)CPU Max系列可為如能源、地球系統(tǒng)建模等一系列實(shí)際應(yīng)用提供高達(dá)3.7倍10的性能提升。
此外,英特爾數(shù)據(jù)中心GPU Max系列在單個產(chǎn)品上整合47個小芯片,集成了超過1000億個晶體管,為諸如物理、金融服務(wù)和生命科學(xué)等極具挑戰(zhàn)性的工作負(fù)載帶來更高的吞吐量。相較上一代產(chǎn)品,英特爾數(shù)據(jù)中心GPU Max系列和至強(qiáng)CPU Max系列的結(jié)合,可以使生命與材料科學(xué)領(lǐng)域LAMMPS處理性能提升12.8倍13。
兼具強(qiáng)勁性能和安全性的至強(qiáng)平臺
作為英特爾重要的平臺轉(zhuǎn)型體現(xiàn),第四代英特爾至強(qiáng)不僅具備卓越的加速性能,亦體現(xiàn)了重大的制造進(jìn)展。其能夠在一個封裝上集成多達(dá)4個采用Intel 7制程工藝制造的單元,這些區(qū)塊通過英特爾嵌入式多芯片互連橋接(EMIB)封裝技術(shù)連接。第四代英特爾至強(qiáng)可擴(kuò)展處理器還具備新特性,包括通過DDR5增加了內(nèi)存帶寬、通過PCIe5.0和Compute Express Link (CXL) 1.1互連增加了I/O帶寬。
安全是一切的基礎(chǔ)。通過第四代英特爾至強(qiáng)可擴(kuò)展處理器,英特爾提供數(shù)據(jù)中心芯片行業(yè)廣泛的機(jī)密計算產(chǎn)品組合,同時保護(hù)敏感數(shù)據(jù)和受到法律法規(guī)嚴(yán)格保護(hù)的數(shù)據(jù)。作為為數(shù)據(jù)中心計算提供應(yīng)用隔離的芯片廠商,英特爾憑借英特爾?軟件防護(hù)擴(kuò)展(英特爾?SGX),在私有云、公有云和從云到端的環(huán)境中,為使用中的數(shù)據(jù)提供硬件加密,以實(shí)現(xiàn)當(dāng)前機(jī)密計算領(lǐng)域更小的攻擊面。此外,作為英特爾全新的虛擬機(jī)隔離技術(shù),英特爾?Trust Domain Extensions(英特爾?TDX)非常適合把現(xiàn)有應(yīng)用移植到機(jī)密環(huán)境,該特性將在微軟Azure、阿里云、谷歌云和IBM云中首發(fā)。
最后,第四代英特爾至強(qiáng)的模塊化架構(gòu)讓英特爾能夠提供廣泛的處理器,針對客戶的使用場景或應(yīng)用提供接近50個有針對性的SKU,其中包括從主流通用SKU到面向云、數(shù)據(jù)庫和分析、網(wǎng)絡(luò)、存儲和單插槽邊緣使用場景的專用SKU。第四代英特爾至強(qiáng)處理器家族支持英特爾On Demand,能夠針對不同使用場景和外形規(guī)格提供不同的核心數(shù)、頻率、加速器組合、功率和內(nèi)存吞吐量,從而滿足客戶的實(shí)際應(yīng)用需求。
數(shù)字化浪潮奔涌向前,加速數(shù)字化發(fā)展已成為關(guān)乎長遠(yuǎn)發(fā)展的“必修課”?;诖?,作為數(shù)字經(jīng)濟(jì)建設(shè)和數(shù)字產(chǎn)業(yè)向前發(fā)展的重要參與者和關(guān)鍵推動者,英特爾將在“五大超級技術(shù)力量”的驅(qū)動下,秉承以結(jié)果為導(dǎo)向、工作負(fù)載至上的策略,以穩(wěn)健的執(zhí)行力、卓越的產(chǎn)品技術(shù)領(lǐng)導(dǎo)力,及強(qiáng)大的生態(tài)影響力,持續(xù)助力本地生態(tài)伙伴全方位、深層次創(chuàng)新,為中國數(shù)字經(jīng)濟(jì)的高質(zhì)量發(fā)展夯實(shí)基礎(chǔ)。
1 如下工作負(fù)載的幾何平均值:RocksDB(IAA vs ZTD)、ClickHouse(IAA vs ZTD)、SPDK大型媒介與數(shù)據(jù)請求代理(DSA vs 開箱即用)、圖像分類ResNet-50(AMX vs VNNI)、物體識別SSD-ResNet-34(AMX vs VNNI)、QATzip(QAT vs?zlib)
2 1-節(jié)點(diǎn),英特爾參考驗(yàn)證平臺,2個英特爾? 至強(qiáng)8480+ (56C,?2GHz, 350W TDP),啟用超線程,啟用睿頻,總內(nèi)存: 1?TB(16個插槽/ 64GB/ 4800 MHz),1個P4510 3.84TB?NVMe?PCIe Gen4驅(qū)動器,BIOS:0091.D05,(ucode:0x2b0000c0),CentOS Stream 8, 5.15.0-spr.bkc.pc.10.4.11.x86_64,Java Perf/Watt?w/?openjdk-11+28_linux-x64_bin,112個實(shí)例,1550MB 初始堆/最大堆大小,英特爾截至2022年1月的測試。?
3 ResNet50圖像分類?
新配置:1-節(jié)點(diǎn),2個預(yù)生產(chǎn)的第四代英特爾?至強(qiáng)?可擴(kuò)展處理器8490H(60核),含英特爾? 高級矩陣擴(kuò)展(英特爾AMX),預(yù)生產(chǎn)超微SYS-221H-TNR,1024GB DDR5內(nèi)存(16x64 GB),微代碼0x2b0000c0,啟用超線程,啟用睿頻,關(guān)閉SNC,CentOS Stream 8, 5.19.16-301.fc37.x86_64,1x3.84TB P5510 NVMe,10GbE x540-AT2,英特爾TF 2.10,AI Model=Resnet 50 v1_5,最高得分:BS1 AMX 1 核/實(shí)例(最高15ms SLA),使用物理內(nèi)核,英特爾在2022年11月進(jìn)行的測試?;鶞?zhǔn):1-節(jié)點(diǎn),2個第三代英特爾?至強(qiáng)?可擴(kuò)展處理器8380(40核),超微SYS-220U-TNR,1024GB DDR4內(nèi)存(16x64 GB),微代碼0xd000375,啟用超線程,啟用睿頻,關(guān)閉SNC,CentOS Stream 8, 5.19.16-301.fc37.x86_64,1x3.84TB P5510 NVMe,10GbE x540-AT2,英特爾 TF 2.10,AI Model=Resnet 50 v1_5,最高得分:BS1 INT8 2 核/實(shí)例(最高15ms SLA),使用物理內(nèi)核,英特爾在2022年11月進(jìn)行的測試。?
包含50臺配備第三代英特爾至強(qiáng)處理器8380的服務(wù)器編隊(RN50 w/DLBoost),截至2022年11月的估計:?
資本成本:164萬美元?
運(yùn)營成本(4年,包括電力和散熱成本,基礎(chǔ)設(shè)施和硬件維護(hù)成本):73.99萬美元?
能耗kWh(4年,每臺服務(wù)器):44627,PUE 1.6?
其它假設(shè):電價$0.1/kWh,kWh對應(yīng)千克CO2 系數(shù)為0.42394??
?
包含17臺配備第四代英特爾至強(qiáng)處理器8490H 的服務(wù)器編隊(RN50 w/AMX),截至2022年11月的估計:
資本成本:79.94萬美元?
運(yùn)營成本(4年,包括電力和散熱成本,基礎(chǔ)設(shè)施和硬件維護(hù)成本):27.53萬美元?
能耗kWh(4年,每臺服務(wù)器):58581,PUE 1.6
人工智能——通過部署更少的基于第四代英特爾至強(qiáng)處理器的服務(wù)器,在實(shí)現(xiàn)相同性能要求的情況下,TCO降低達(dá)55%。 請參閱 intel.com/processorclaims 上的 [E7]:第四代英特爾至強(qiáng)可擴(kuò)展處理器。結(jié)果可能會有所不同。
數(shù)據(jù)庫——通過部署更少的基于第四代英特爾至強(qiáng)處理器的服務(wù)器,在實(shí)現(xiàn)相同性能要求的情況下,TCO降低達(dá)52%。 請參閱 intel.com/processorclaims 上的 [E8]:第四代英特爾至強(qiáng)可擴(kuò)展處理器。結(jié)果可能會有所不同。
HPC——通過部署更少的基于英特爾至強(qiáng)CPU Max系列處理器的服務(wù)器,在實(shí)現(xiàn)相同的性能要求的情況下,TCO降低達(dá)66%。 請參閱 intel.com/processorclaims 上的 [E9]:第四代英特爾至強(qiáng)可擴(kuò)展處理器。 結(jié)果可能會有所不同。
4 HP?Linpack、Stream Triad、SPECrate2017_fp_base?est、SPECrate2017_int_base est的幾何平均值。 [G2, G4, G6] 參見intel.com/processorclaims:第四代英特爾至強(qiáng)可擴(kuò)展處理器。
5 與前一代(FP32)相比,通過內(nèi)置英特爾?高級矩陣擴(kuò)展(英特爾? AMX)(BF16),PyTorch實(shí)時推理性能提升至高可達(dá)10倍
ResNet50、Bert-Large、MaskRCNN、SSD-ResNet34、RNN-T、Resnext101的PyTorch幾何平均值。?
6 與前一代(FP32)相比,通過內(nèi)置英特爾?高級矩陣擴(kuò)展(英特爾? AMX)(BF16),PyTorch訓(xùn)練性能提升至高可達(dá)10倍
ResNet50、Bert-Large、DLRM、MaskRCNN、SSD-ResNet34、RNN-T的PyTorch幾何平均值。?
?
?7 截至2022年8月30日的估計,使用FlexRAN?軟件測試,對比了第四代英特爾? 至強(qiáng)? 可擴(kuò)展處理器和第三代英特爾? 至強(qiáng)? 可擴(kuò)展處理器的架構(gòu)提升,擁有類似的內(nèi)核數(shù)量、插槽功率和頻率。結(jié)果可能不同。
?8 內(nèi)核數(shù)量可少95%和2倍的一級壓縮吞吐量,對比了包含集成英特爾QAT的第四代英特爾至強(qiáng)白金8490H和前一代。
8490H:1-節(jié)點(diǎn),配備2個集成了英特爾? 數(shù)據(jù)保護(hù)與壓縮加速技術(shù)(英特爾QAT)的第四代英特爾?至強(qiáng)?可擴(kuò)展處理器(60核)的預(yù)生產(chǎn)平臺,利用的QAT設(shè)備=8(2個活躍插槽),總計1024GB (16x64 GB) DDR5內(nèi)存,微代碼 0xf000380,啟用超線程,關(guān)閉睿頻,關(guān)閉SNC,Ubuntu 22.04.1 LTS,5.15.0-47-generic,1x 1.92TB Intel? SSDSC2KG01,QAT v20.l.0.9.1,QATzip v1.0.9,ISA-L v2.3.0,截至英特爾2022年9月的測試。
8380: 1-節(jié)點(diǎn),2個第三代英特爾?至強(qiáng)?可擴(kuò)展處理器(40核),Coyote Pass平臺,DDR4內(nèi)存1024GB (16x64 GB),微代碼 0xd000375,啟用超線程,關(guān)閉睿頻,關(guān)閉SNC,Ubuntu 22.04.1 LTS,5.15.0-47-generic,1x 1.92TB?Intel SSDSC2KG01,QAT v1.7.l.4.16,QATzip?v1.0.9,ISA-L v2.3.0,截至英特爾2022年10月的測試。
9 至高可達(dá)3倍的RocksDB性能,對比了集成英特爾IAA的第四代英特爾至強(qiáng)白金8490H和前一代。
8490H:1-節(jié)點(diǎn),配備2個集成了英特爾?內(nèi)存分析加速器(英特爾IAA)的第四代英特爾?至強(qiáng)?可擴(kuò)展處理器(60核)的預(yù)生產(chǎn)英特爾平臺,啟用超線程,啟用睿頻,總內(nèi)存1024GB (16x64GB DDR5 4800),微代碼 0xf000380,1x 1.92TB INTEL SSDSC2KG01,Ubuntu 22.04.1 LTS,5.18.12-051812-generic,QPL v0.1.21,accel-config-v3.4.6.4,ZSTD v1.5.2,RocksDB v6.4.6 (db_bench),截至英特爾2022年9月的測試。
8380:1-節(jié)點(diǎn),2個第三代英特爾?至強(qiáng)?可擴(kuò)展處理器(40核),Coyote Pass平臺,啟用超線程,啟用睿頻,關(guān)閉 SNC,總內(nèi)存 1024GB (16x64GB DDR4 3200),微代碼 0xd000375,1x 1.92TB INTEL SSDSC2KG01,Ubuntu?22.04.1 LTS,5.18.12-051812-generic,ZSTD v1.5.2,RocksDB?v6.4.6 (db_bench),截至英特爾2022年10月的測試。
10 英特爾? 至強(qiáng)? 8380:截至英特爾2022年10月7日的測試。1-節(jié)點(diǎn),2個英特爾? 至強(qiáng)? 可擴(kuò)展處理器8380,啟用超線程,啟用睿頻,總內(nèi)存 256 GB (16x16GB 3200MT/s DDR4),BIOS版本 SE5C620.86B.01.01.0006.2207150335,ucode?版本=0xd000375,Rocky Linux 8.6,Linux 版本4.18.0-372.26.1.el8_?6.crt1.x86_?64,YASK v3.05.07?
英特爾? 至強(qiáng)? CPU Max系列:截至英特爾2022年第36周的測試。1-節(jié)點(diǎn),2x 英特爾? 至強(qiáng)? CPU Max系列,啟用超線程,啟用睿頻,SNC4,總內(nèi)存 128 GB (8x16GB HBM2 3200MT/s),BIOS 版本 SE5C7411.86B.8424.D03.2208100444,ucode 版本=0x2c000020,CentOS Stream 8,Linux 版本 5.19.0-rc6.0712.intel_?next.1.x86_?64+server,YASK v3.05.07。
11 第四代英特爾?至強(qiáng)?可擴(kuò)展處理器優(yōu)化電源模式開啟時比關(guān)閉時系統(tǒng)節(jié)能可高達(dá)20%,包括SpecJBB、PECINT 和 NIGNX key handshake等特定工作負(fù)載。?
12英特爾? 至強(qiáng)? 8480+:Numenta 截至2022年11月28日的測試。1-節(jié)點(diǎn),2個英特爾? 至強(qiáng)? 8480+,512 GB DDR5-4800,Ubuntu 22.04 Kernel 5.17,OpenVINO 2022.3,Numenta-Optimized BERT-Large,Sequence Length 512,Batch Size 1?
英特爾? 至強(qiáng)? Max 9468:Numenta 截至2022年11月30日的測試。1-節(jié)點(diǎn),2x 英特爾? 至強(qiáng)? Max 9468,128 GB HBM2e 3200 MT/s,Ubuntu 22.04 Kernel 5.15,OpenVINO 2022.3,Numenta-Optimized BERT-Large,Sequence Length 512,Batch Size 1
13 英特爾? 至強(qiáng)? 8380:英特爾截至2022年10月28日的測試。1-節(jié)點(diǎn),2x 英特爾? 至強(qiáng)? 8380 CPU,啟用超線程,啟用睿頻,總內(nèi)存 256 GB (16x16GB 3200MT/s,Dual-Rank),BIOS 版本 SE5C6200.86B.0020.P23.2103261309,ucode 版本=0xd000270,Rocky Linux 8.6,Linux 版本 4.18.0-372.19.1.el8_6.crt1.x86_64?
集成HBM的英特爾? 至強(qiáng)? CPU Max系列: 英特爾截至2022年10月28日的測試。1-節(jié)點(diǎn),2x 英特爾? 至強(qiáng)? Max 9480,啟用超線程,啟用睿頻,總內(nèi)存 128 GB HBM2e,BIOS EGSDCRB1.DWR.0085.D12.2207281916,ucode 0xac000040,SUSE Linux Enterprise Server 15 SP3,Kernel 5.3.18,oneAPI 2022.3.0?
含DDR的英特爾? 數(shù)據(jù)中心 GPU Max系列主機(jī):英特爾截至2022年10月28日的測試。1-節(jié)點(diǎn),2個英特爾? 至強(qiáng)? Max 9480,啟用超線程,啟用睿頻,總內(nèi)存 1024 GB DDR5-4800 + 128 GB HBM2e,內(nèi)存模式:扁平,HBM2e未使用,6個英特爾? 數(shù)據(jù)中心 GPU Max系列,BIOS EGSDCRB1.DWR.0085.D12.2207281916,ucode 0xac000040,Agama pvc-prq-54,SUSE Linux Enterprise Server 15 SP3,Kernel 5.3.18,oneAPI 2022.3.0?
含HBM的英特爾?數(shù)據(jù)中心 GPU Max 系列主機(jī):英特爾截至2022年10月28日的測試。1-節(jié)點(diǎn),2x 英特爾? 至強(qiáng)? Max 9480,啟用超線程,啟用睿頻,總內(nèi)存 128 GB HBM2e,6x 英特爾? 數(shù)據(jù)中心 GPU Max 系列,BIOS EGSDCRB1.DWR.0085.D12.2207281916,ucode 0xac000040,Agama pvc-prq-54,SUSE Linux Enterprise Server 15 SP3,Kernel 5.3.18,oneAPI 2022.3.0?