緊跟技術熱點和行業(yè)方向,很多芯片設計大廠都在招聘高速互聯(lián),Link,片間互聯(lián)等技術人才,這篇文章簡單介紹一下CXL技術。
AI 大模型的快速發(fā)展推動“算力”和“存力”需求快速增長,與此同時,對“運力”也提出了更高的需求,系統(tǒng)需要更高的帶寬、更快的傳輸。但內存的性能提升速度遠低于處理器的性能提升速度,導致處理器無法充分發(fā)揮其計算能力。
“內存墻”問題由來已久,在 AI 時代表現(xiàn)的愈發(fā)明顯,“算力”和“運力”之間的差距越來越大。Transformer 類的模型參數(shù)的數(shù)量呈現(xiàn)指數(shù)增長,每兩年增加 410 倍,而 GPU 內存僅以每兩年 2 倍的速度擴展。
大模型參數(shù)量增長速度遠超硬件迭代速度
帶寬增長與算力增長差距明顯
CXL 高速互聯(lián)應運而生,提高內存利用效率
CXL(Compute Express Link)技術是一種新型的高速互聯(lián)技術,旨在提供更高的數(shù)據(jù)吞吐量和更低的延遲,同時實現(xiàn)內存共享、提高內存利用效率,為化解“內存墻”問題提出新的解決方案。
它最初由英特爾、AMD 和其他公司聯(lián)合推出,并得到了包括谷歌、微軟等公司在內的大量支持。CXL 的目標主要是為了解決 CPU 和設備、設備和設備之間的內存鴻溝,解決內存分割造成的較大浪費、不便和性能下降。CXL 通過將計算和存儲分離,形成內存池,從而能動態(tài)按需配置內存資源,提升效率。
CXL 內存池化和共享
CXL 提高內存利用效率,技術優(yōu)勢明顯
CXL 通過將計算和存儲分離,形成內存池,從而能動態(tài)按需配置內存資源,提升效率。CXL 技術具有優(yōu)勢:
1)CXL 延遲較低,通常為 10ns,而 PCIe 的延遲為 100ns。
2)CXL 支持內存一致性,一致性的缺乏限制了 PCIe 應用程序。
3)CXL 地址空間可按定義緩存,PCIe 則不可以。
CXL 版本持續(xù)升級迭代,國際巨頭紛紛加入 CXL 聯(lián)盟
CXL 歷經 5 個版本的升級發(fā)展。CXL1.0 于 2019 年 3 月發(fā)布,后歷經 1.1、2.0、3.0 版本,2023 年 11 月,CXL 聯(lián)盟發(fā)布了最新的 CXL3.1 版本。隨著CXL 技術的不斷演進,未來數(shù)據(jù)中心各個計算節(jié)點和內存節(jié)點的互聯(lián)將更加快速、高效和靈活。
CXL 聯(lián)盟由英特爾牽頭成立,目前成員已經超過 255個,涵蓋了主要的 CPU、內存、存儲和網絡設備制造商。國際巨頭加入 CXL聯(lián)盟,積極布局 CXL 技術,推出支持 CXL 技術的產品,助力 CXL 的發(fā)展。
CXL 市場空間廣闊,DRAM 占據(jù)主要份額
CXL 高速互聯(lián)目前處于市場應用的早期階段,未來采用 CXL 協(xié)議服務器的占比持續(xù)提升。Yole 預測到 2028 年,CXL 市場總收入將超過 150 億美元,DRAM 將占據(jù) CXL 市場的主要份額,Yole 預計到 2028 年,DRAM 占到 CXL 市場規(guī)模的 79%。
三星和海力士相繼推出了采用 CXL 內存控制器的 CXL 內存模組,三星推出其首款支持 CXL2.0 的 128GB DRAM,加速下一代存儲器解決方案的商用化進程。
更多關于CXL的技術文檔,可以私信我獲取。
新的一年開始了,想看市場機會,及時聯(lián)系我,我羅列了超過10家頭部企業(yè)和行業(yè)獨角獸企業(yè)招聘。都能內推或輔導推薦?。?!