當前數(shù)字時代,我國各行業(yè)數(shù)據(jù)存儲需求日益增長,國家政策要求構(gòu)建以數(shù)據(jù)為關(guān)鍵要素的數(shù)字經(jīng)濟。這些都對數(shù)據(jù)存儲技術(shù)的介質(zhì)、架構(gòu)、協(xié)議、應(yīng)用等方面提出更高要求。
而在數(shù)據(jù)存儲領(lǐng)域,我們發(fā)現(xiàn)目前業(yè)界熱議明星是NVMe全閃存技術(shù)的應(yīng)用與普及。NVMe是計算機與存儲設(shè)備連接的接口和協(xié)議,可以釋放SSD(Solid State Disk)閃存強大的性能。相比傳統(tǒng)SAS這個類似“翻越崇山峻嶺緩慢前行的單輛貨車”協(xié)議,NVMe是行駛在康莊大道一騎絕塵的“超跑”車隊。
如今,業(yè)界更是發(fā)展了NVMe over Fabric,進一步解決存儲系統(tǒng)協(xié)議瓶頸,實現(xiàn)高性能、低延遲的遠程存儲數(shù)據(jù)訪問。
而華為這家深耕存儲17年的資深玩家,成為NVMe全閃存技術(shù)引領(lǐng)者和普及者:在業(yè)內(nèi)實現(xiàn)唯一端到端開發(fā)了NVMe SSD盤、NVMe閃存控制器和NVMe全閃存操作系統(tǒng),實現(xiàn)高中低端產(chǎn)品都支持NVMe全閃存。
看到這,你一定疑惑,數(shù)據(jù)存儲產(chǎn)業(yè)發(fā)展日新月異,為何NVMe全閃存成明星?華為NVMe全閃存有何厲害之處?有哪些應(yīng)用案例實踐?
01、我國數(shù)據(jù)存儲潛力巨大,呈現(xiàn)四大主要特征
隨著千行百業(yè)數(shù)字化轉(zhuǎn)型進程不斷加速,數(shù)據(jù)作為一種新的生產(chǎn)要素,已經(jīng)成為與土地、人口、能源并列的重要戰(zhàn)略資源,并與數(shù)字經(jīng)濟緊密連接。
人們對企業(yè)數(shù)據(jù)存儲,知之甚少。其實,除了大家接觸的電腦、手機等需要更高、更可靠的存儲,金融、教育、科研、電信等領(lǐng)域應(yīng)用對數(shù)據(jù)存儲提出的要求更高。
根據(jù)IDC報告顯示,我國整體數(shù)據(jù)量到2025年將達到48.6ZB,占全球數(shù)據(jù)圈規(guī)模的27.8%。我國十分重視數(shù)據(jù)存儲發(fā)展,提出要“構(gòu)建以數(shù)據(jù)為關(guān)鍵要素的數(shù)字經(jīng)濟”。在我國“十四五”規(guī)劃中,“數(shù)據(jù)要素”一詞出現(xiàn)4次。
目前,我國存儲產(chǎn)業(yè)規(guī)模日漸龐大。根據(jù)Gartner發(fā)布數(shù)據(jù)顯示,我國存儲產(chǎn)業(yè)規(guī)模在2020年上游芯片與介質(zhì)超過1400億元,中游存儲整機和下游服務(wù)超過3400億元。到2025年,我國存儲產(chǎn)業(yè)直接投資總額將超過萬億級規(guī)模。
可見,數(shù)據(jù)存儲作為數(shù)據(jù)的可靠底座,其重要性不容忽視,并隨著新時代到來呈現(xiàn)出四大特征。
第一,從市場空間看,相比發(fā)達國家而言,我國當前數(shù)據(jù)存儲和計算方面的投資比例相差較大,數(shù)據(jù)存儲在我國具有巨大的商業(yè)空間。
羅蘭貝格合伙人、信息技術(shù)與高科技行業(yè)負責(zé)人李冰近日表示,根據(jù)其對多國存儲產(chǎn)業(yè)大量調(diào)研表明:我國起步晚,存力充足性和綠色性存在不足,但態(tài)度更加積極,通過高增長、領(lǐng)先技術(shù)投入等,在效率等某一具體指標上擁有優(yōu)勢,有望實現(xiàn)彎道超車。
第二,從業(yè)務(wù)需求看,多元的數(shù)據(jù)形態(tài)、龐大的數(shù)據(jù)量、復(fù)雜的業(yè)務(wù)模型,對計算和數(shù)據(jù)存儲提出了更高的要求。據(jù)相關(guān)機構(gòu)預(yù)測,圖像、視頻等非結(jié)構(gòu)化數(shù)據(jù)大量產(chǎn)生,數(shù)據(jù)實時性占比預(yù)計2024年將達到整體數(shù)據(jù)量的1/4,2025年全球產(chǎn)生數(shù)據(jù)將超過160個ZB。
第三,從技術(shù)需求看,新型存儲介質(zhì)、存儲引擎、存儲協(xié)議等技術(shù)快速發(fā)展,但目前產(chǎn)品化速度仍然落后于技術(shù)迭代速度。因此,提升數(shù)據(jù)存儲的“最后一公里”,即實際應(yīng)用部署規(guī)模,變得迫在眉睫。
第四,隨著數(shù)據(jù)產(chǎn)量飛速增長,數(shù)據(jù)安全問題隨之激增,成為轉(zhuǎn)型過程中影響國家安全的關(guān)鍵因素。數(shù)據(jù)不僅要“存得好”,更要“存得安全”。業(yè)界要將存儲要作為數(shù)據(jù)安全的重要防線來建設(shè),警惕出現(xiàn)“卡脖子”。
02、從SAS升級到NVMe協(xié)議:充分釋放閃存力量
談及數(shù)據(jù)中心,我們在過去十年經(jīng)歷了服務(wù)器處理器從單核到多核,從x86到GPU異構(gòu)計算,處理能力提升百倍以上。存儲介質(zhì)從HDD(機械盤)全面轉(zhuǎn)向SSD閃存盤,性能也有百倍提升。
世間萬物的快速發(fā)展,總伴隨著局部瓶頸的到來,比如在服務(wù)器到交換機、存儲之間的網(wǎng)絡(luò)協(xié)議,就成為數(shù)據(jù)中心的性能瓶頸。
閃存SSD最初為了快速融入數(shù)據(jù)中心的生態(tài)系統(tǒng),將傳統(tǒng)的SAS(Serial Attached SCSI,串行連接SCSI接口)協(xié)議繼承下來。SAS協(xié)議作為機械硬盤時代的產(chǎn)物,其系統(tǒng)架構(gòu)之復(fù)雜、協(xié)議解析之多、隊列并發(fā)能力之有限,大大阻礙了SSD性能發(fā)揮。
為了讓SSD性能得到充分釋放,NVMe協(xié)議應(yīng)運而生。NVMe英文全稱是Non-Volatile Memory express,中文全稱是非易失性內(nèi)存主機控制器接口規(guī)范,看著是不是有點太專業(yè)?其實它是一種高性能、NUMA(非統(tǒng)一內(nèi)存訪問)優(yōu)化的、高度可擴展的存儲協(xié)議,用于連接主機和內(nèi)存子系統(tǒng)。
NVMe非常了不起,具備四大絕招:
其一,低延時,NVMe協(xié)議通過PCIe(Peripheral Component Lnterconnect express,高速串行計算機擴展總線標準)通道跟CPU直連,數(shù)據(jù)不需要像SAS通過控制器中轉(zhuǎn)到CPU;
其二,IOPS大增,NVMe可以把最大隊列深度從32提升到64000,SSD的IOPS能力也得到提升;
其三,功耗更低,NVMe加入自動功耗狀態(tài)切換和動態(tài)能耗管理功能;
其四,兼容性高,NVMe的SSD可以匹配不同平臺、系統(tǒng),無需廠家提供相應(yīng)驅(qū)動就能正常工作。
為了方便大家理解NVMe協(xié)議與SAS協(xié)議兩者之間的變化,筆者整理了如下表格。
簡單來說,NVMe本質(zhì)是建立了多個計算機與存儲設(shè)備的通路。NVMe在單個消息隊列中支持64000個命令,最多支持65535個I/O(Input/Output,輸入/輸出)隊列。相比之下,SAS通常在單個隊列中最多支持256個命令,最多支持1個I/O隊列。
舉例來說,如果你把SAS想象成一條羊腸小道,它最多可以通過256輛車。而NVMe則是一條擁有65535條車道的康莊大道,每條車道能通過64000輛車。
天下武功,唯快不破。不得不說,在NVMe的加持下,SSD一秒走上了性能巔峰。
NVMe正成為越來越多企業(yè)的選擇。據(jù)IDC分析,服務(wù)于超大規(guī)模云客戶、OEM廠商和終端用戶的IT組織,將繼續(xù)遷出傳統(tǒng)SAS接口。2020年,NVMe占據(jù)企業(yè)級PCIe SSD總出貨量約一半,并在2018-2023年間以38%的復(fù)合年增長率持續(xù)增長。同時Gartner預(yù)測,2022年NVMe SSD在存儲中占比將達到52%。
記得2009年,NVMe工作組成立之后,經(jīng)過產(chǎn)業(yè)界共同努力,NVMe生態(tài)日趨成熟,覆蓋NVMe芯片組、NVMe SSD產(chǎn)品、NVMe協(xié)議等多方面,端到端的NVMe解決方案也逐漸成為數(shù)字化轉(zhuǎn)型應(yīng)用創(chuàng)新首選。
03、推動創(chuàng)新與應(yīng)用:華為成NVMe發(fā)展功臣
筆者注意到,為了提升數(shù)據(jù)中心網(wǎng)絡(luò)存儲性能,華為存儲近年來一直致力于NVMe全閃存方案創(chuàng)新和普及,不僅是業(yè)內(nèi)唯一端到端開發(fā)了NVMe系列產(chǎn)品的廠家,更是高端、中低端產(chǎn)品都支持NVMe全閃存。
在技術(shù)創(chuàng)新方面,華為打造了NVMe over Fabric(NoF),可以實現(xiàn)NVMe標準在多種網(wǎng)絡(luò)上的擴展,達到降低存儲網(wǎng)絡(luò)協(xié)議棧處理開銷并提供高并發(fā)低延時應(yīng)用,適應(yīng)SSD介質(zhì)驅(qū)動的存儲架構(gòu)演進。
在端到端NVMe產(chǎn)品方面,華為在端到端的NVMe高速通道上,采用自研ASIC接口模塊,自研ASIC SSD盤/框設(shè)計,從協(xié)議解析、IO轉(zhuǎn)發(fā)、業(yè)務(wù)優(yōu)先、硬件加速等方面對NVMe進行全面支持,為數(shù)據(jù)傳輸提供高速通道。
通過優(yōu)化的NVMe設(shè)計,華為OceanStor Dorado全閃存解決方案帶來不少提升。一方面,NVMe協(xié)議相比SCSI協(xié)議可減少40%主機網(wǎng)絡(luò)協(xié)議棧開銷,節(jié)約主機CPU消耗,同等性能情況下支持更多主機應(yīng)用。
另一方面,通過NVMe協(xié)議,CPU和SSD盤可直接通信,縮短傳輸路徑,協(xié)議并發(fā)數(shù)提升到64K,協(xié)議交互次數(shù)從4次減少為2次,讀寫請求處理效率提升1倍以上。我們再來看看華為實驗室的實測數(shù)據(jù),在8KB IO和100%讀場景下,華為OceanStor Dorado的端到端時延從562us降低到50us,縮短10倍。
其實,華為不僅致力于數(shù)據(jù)存儲的技術(shù)創(chuàng)新,更在解決數(shù)據(jù)存儲的“最后一公里”上,即將創(chuàng)新成果在市場上產(chǎn)生價值方面,也下了不少功夫。
據(jù)筆者了解,華為存儲目前已經(jīng)擁有金融、政府、制造、能源等行業(yè)在內(nèi)的上千個NVMe全閃存成功案例。
華夏銀行在推動端到端NVMe方案測試實施過程中,選擇了華為NoF+(全無損以太存儲網(wǎng)絡(luò)解決方案)增強方案。NoF+增強方案包含最新一代華為OceanStor Dorado全閃存存儲系統(tǒng)和Cloud Engine數(shù)據(jù)中心存儲網(wǎng)絡(luò)交換機兩大核心部件,可實現(xiàn)存儲場景端到端數(shù)據(jù)加速,也可攻克傳統(tǒng)以太網(wǎng)丟包等難題,為金融科技創(chuàng)新注入新動能。
中國銀行完成了華為RoCE網(wǎng)絡(luò)方案的先行部署,并完成了華為OceanStor Dorado系列全閃存在NoF環(huán)境下的技術(shù)測試,并成功商用。
浙江移動聯(lián)合華為,結(jié)合基于NVMe協(xié)議的高性能存儲網(wǎng)絡(luò)方案與華為Ocean Stor全閃存存儲,實現(xiàn)了基于NVMe over RoCE和全閃存的全新數(shù)據(jù)存儲組網(wǎng)方式,釋放閃存澎湃動力,實現(xiàn)超高性能、超低時延、極簡運維,很好應(yīng)對新業(yè)務(wù)帶來的海量通話計費需求和電子商城等移動應(yīng)用業(yè)務(wù)暴增壓力。
這樣的案例還有很多。如今看,華為提出數(shù)據(jù)中心Flash Only Pro概念,成為全閃存從SAS向NVMe升級的中堅力量。
而且,華為推出不少活動加速NVMe全閃存部署,比如到2022年10月31日前,對新建SAS全閃存需求的客戶,提供免費升級為NVMe全閃存的服務(wù),讓客戶閃存投資不變,但速度翻倍。
04 厚積薄發(fā):華為17年耕耘凸顯領(lǐng)先實力
你可能好奇,當下存儲領(lǐng)域玩家眾多,尤其是國外存儲廠商起步早、實力強,華為如何能在NVMe等數(shù)據(jù)存儲領(lǐng)域,取得技術(shù)和市場領(lǐng)先?
回顧歷史可以發(fā)現(xiàn),華為存儲所依靠的依然是華為的基因——圍繞客戶需求,持續(xù)投資創(chuàng)新,厚積薄發(fā),實現(xiàn)廣泛認可。
首先,在技術(shù)產(chǎn)品創(chuàng)新方面,早在2005年,華為就開始研究閃存技術(shù);2008年,首款SATA SSD盤發(fā)布;2011年,第一代全閃存存儲Dorado 2100、Dorado 5100面世,并搭載自主開發(fā)6Gbit/s SAS SSD盤。
2014年,OceanStor V3系列混合閃存存儲正式發(fā)布;2015年,高端融合存儲OceanStor 18000 V3正式發(fā)布;2017年,支持NVMe技術(shù)的全閃存存儲OceanStor Dorado 5000 V3正式發(fā)布并榮獲東京Interop展金獎;2018年,第三方權(quán)威咨詢報告顯示,華為全閃存存儲市場收入增速位列全球第一。
華為不僅擁有自研SSD、自研控制器芯片和自研閃存存儲操作系統(tǒng)技術(shù),還是目前存儲行業(yè)內(nèi)擁有SSD盤片級專利最多的廠家之一。
通過10多年的持續(xù)投入,華為數(shù)據(jù)存儲有強大的研發(fā)團隊和專家資源。截至目前,華為存儲領(lǐng)域的研發(fā)工程師高達4000人,在全球有12個存儲研發(fā)中心,擁有超過3000項存儲專利,主導(dǎo)和參與30+國際產(chǎn)業(yè)組織,數(shù)據(jù)存儲場景化解決方案團隊有300多人支持聯(lián)合方案設(shè)計、驗證、調(diào)優(yōu)等工作。
其次,華為存儲贏得分析機構(gòu)和第三方媒體高度認可。比如在Gartner發(fā)布的《2022年分布式文件與對象存儲Peer Insights客戶聲音》年度報告中,華為OceanStor分布式存儲獲得2022年分布式文件與對象存儲“客戶之選”榮譽稱號,并在本年度Peer Insights平臺獲得4.9分綜合評分(滿分5分),在全球所有廠商中排名第一,且是唯一入選的中國廠商。
再比如在DCIG發(fā)布的《DCIG 2020年-2021年全閃存陣列購買指南》中,華為OceanStor全閃存位列最佳推薦榜首。而在《人民郵電報》公布2020年度“ICT創(chuàng)新獎”獲獎評選中,華為基于端到端NVMe over RoCE創(chuàng)新解決方案榮獲“數(shù)據(jù)中心領(lǐng)先獎”。
再次,眾多客戶的選擇也是對華為存儲實力的印證。截至目前,華為數(shù)據(jù)存儲已經(jīng)服務(wù)全球超過18000家客戶,為金融數(shù)據(jù)交換平臺、運營商話單等場景提供高性能、高可靠的全閃存數(shù)據(jù)存儲,為基因測序、能源勘探、自動駕駛等行業(yè)提供混合負載一站式處理能力,提升海量大數(shù)據(jù)的分析效率,幫助客戶打造面向多樣化應(yīng)用的可靠數(shù)據(jù)底座。
最后,華為十分重視中國等合作伙伴,堅持共創(chuàng)數(shù)據(jù)存儲未來。比如為了讓華為存儲的合作伙伴更容易獲取拓展存儲市場所需的各種資料裝備,更高效交付與維護華為存儲產(chǎn)品,華為近日推出了“華為存儲在線”。據(jù)悉,“華為存儲在線”集成產(chǎn)品方案、售前設(shè)計、交付維護、培訓(xùn)賦能四大能力,實現(xiàn)存儲營、銷、服資源一站式整合,使得拓展及交付維護相關(guān)資源更容易獲取。
筆者觀察:
數(shù)智時代,唯快智勝
“數(shù)字基礎(chǔ)設(shè)施是數(shù)字經(jīng)濟時代的高速公路,數(shù)據(jù)存儲是數(shù)字基礎(chǔ)設(shè)施的關(guān)鍵一環(huán)。”華為公司副總裁、數(shù)據(jù)存儲與機器視覺產(chǎn)品線總裁周躍峰此前說的這句話,給筆者留下深刻印象。
他還表示,以數(shù)據(jù)存力為支撐,只有數(shù)據(jù)“存得好”、算力“算得快”、網(wǎng)絡(luò)“傳得穩(wěn)”,數(shù)字基礎(chǔ)設(shè)施的質(zhì)量才能不斷夯實,才能更好地促進經(jīng)濟社會高質(zhì)量發(fā)展。
NVMe SSD盤作為數(shù)據(jù)時代的新產(chǎn)物,具備低延時、高性能等多方面獨特優(yōu)勢,在數(shù)據(jù)存儲性能瓶頸突破上,給業(yè)界帶來希望的曙光。
華為作為數(shù)據(jù)存儲領(lǐng)域的中堅力量,結(jié)合NVMe SSD特點,在自身產(chǎn)品上不斷優(yōu)化,不僅有助于驅(qū)動數(shù)據(jù)中心存儲革命的不斷深化,也將在未來企業(yè)升級與科技發(fā)展中扮演更重要的角色。
在產(chǎn)業(yè)鏈上下游的通力合作之下,我們有理由相信,中國式的數(shù)據(jù)價值時代,將更快速向我們走來。