GPT爆火又引燃了CPO

GPT爆火，算力“芯慌”，而數(shù)據(jù)中心HPC的功率效率也備受關(guān)注，據(jù)稱共封裝器件（CPO，Co-packaged optics）能將功耗降低30%，每比特成本降低40%。真有這樣的好事？條件成熟了嗎？我們往下看。

CPO市場預(yù)期如何？

CPO是將交換芯片和光引擎共同組裝在同一個插槽上，形成芯片和模組的共封裝。這樣就可以盡可能降低網(wǎng)絡(luò)設(shè)備的工作功耗及散熱功耗，在OIF（光互聯(lián)網(wǎng)絡(luò)論壇）的主導(dǎo)下，業(yè)界多家廠商才共同推出了近CPO器件（NPO）和CPO技術(shù)。

共封裝方法橫截面

根據(jù)Yole預(yù)測，伴隨未來人工智能（AI）的發(fā)展，數(shù)據(jù)通信光學(xué)器件一直在增長，2022-2028年其CAGR將為24%，2028-2033為80%，收入預(yù)計將從2022年的3800萬美元增長到2033年的26億美元。得益于AI/ML設(shè)備數(shù)據(jù)移動的加速，2022-2033年CAGR為46%。其中CPO將從2022年的600萬美元增長到2033年的2.87億美元，CAGR為69%。

2022-2033年數(shù)據(jù)通信光學(xué)收入增長預(yù)測

2023年，GPT引發(fā)了驅(qū)動力和應(yīng)用范式的轉(zhuǎn)變。高帶寬、每機(jī)架高功率預(yù)算、HPC新型光鏈路捉襟見肘。隨著從聯(lián)網(wǎng)（交換）到處理（AI/ML（機(jī)器學(xué)習(xí)））的范式轉(zhuǎn)變，預(yù)計2024年將推出首個基于光學(xué)I/O的封裝內(nèi)Al系統(tǒng)，而CPO的批量交付預(yù)計將在2029年之后。

2023年驅(qū)動力和應(yīng)用范式轉(zhuǎn)變

CPO何能何德受青睞？

CPO受到關(guān)注是由于其在數(shù)據(jù)中心高性能計算的功率效率。由于近來宏觀經(jīng)濟(jì)不利，網(wǎng)絡(luò)應(yīng)用CPO的大多數(shù)支持者已暫停了對CPO項目的支持。其主要原因包括：一是可插拔產(chǎn)品的工業(yè)生態(tài)系統(tǒng)需要完善；二是可插拔尺寸的集成電光調(diào)制器可以實現(xiàn)所需的低功耗，且可在不改變現(xiàn)有網(wǎng)絡(luò)系統(tǒng)設(shè)計的情況下引入市場。

Yole Intelligence光子學(xué)和傳感部門高級分析師Martin Vallo博士則表示：“在所需的電密度和光密度、熱管理和能源效率方面，可插拔尺寸將限制其支持6.4T和12.8T容量的能力，使用硅光子學(xué)技術(shù)平臺的共封裝能夠克服上述挑戰(zhàn)?！?/p>

隨著技術(shù)進(jìn)步，能夠在商業(yè)系統(tǒng)中更緊密地集成通信和計算技術(shù)的網(wǎng)絡(luò)硬件組件越來越常見。不過，CPO對AI/ML系統(tǒng)仍保持著吸引力。AI模型的規(guī)模正在以前所未有的速度增長，傳統(tǒng)架構(gòu)（銅基電互連）的芯片對芯片或板對板能力將成為擴(kuò)展ML的主要瓶頸。因此，HPC及其新的分散架構(gòu)出現(xiàn)了新的、非常短的光互連。分散設(shè)計將服務(wù)器卡上的計算、內(nèi)存和存儲組件分開，并分別對其進(jìn)行池化。通過先進(jìn)的封裝內(nèi)光學(xué)I/O技術(shù)將基于光學(xué)的互連用于xPU（CPU、DPU、GPU、TPU、FPGA和ASIC）、內(nèi)存和存儲器，以實現(xiàn)必要的傳輸速度和帶寬。

此外，未來數(shù)十億光學(xué)互連（芯片、電路板）的潛力正在推動大型代工廠為大規(guī)模生產(chǎn)做準(zhǔn)備。由于大多數(shù)光子制造IP由非代工公司（AyarLabs、Ranovus、思科、Nvidia、Marvell、Lightmatter和許多其他公司）持有，Tower Semiconductor、GlobalFoundries、ASE Group、臺積電和三星等大型代工公司正在準(zhǔn)備硅光子工藝流程，以接受設(shè)計公司的任何PIC架構(gòu)。所有這些代工廠都在加入PCIe、CXL和UCIe等行業(yè)聯(lián)盟。小芯片（chiplet）互連的通用規(guī)范允許構(gòu)建超過最大掩模尺寸的大型片上系統(tǒng)（SoC）封裝。這有助于在同一封裝內(nèi)混合來自不同供應(yīng)商的組件，并通過使用較小的片芯來提高制造產(chǎn)量。每個小芯片可以使用適合特定器件類型或計算性能/功耗要求的不同硅制造工藝。

2023年優(yōu)選CPO參與者供應(yīng)鏈

對快速增長的訓(xùn)練數(shù)據(jù)集的預(yù)測表明，數(shù)據(jù)將成為擴(kuò)展ML模型的主要瓶頸，因此，AI的進(jìn)展可能會放緩。在AI/ML設(shè)備中加速數(shù)據(jù)移動是下一代HPC系統(tǒng)采用光學(xué)互連的主要驅(qū)動因素，在ML硬件中使用光學(xué)I/O有助于應(yīng)對數(shù)據(jù)的爆炸性增長。

怎樣重拾CPO？

事實上，在過去50年里，每十年都會有一次移動技術(shù)創(chuàng)新。移動帶寬需求已經(jīng)從語音通話和短信發(fā)展到超高清（UHD）視頻和各種增強(qiáng)現(xiàn)實/虛擬現(xiàn)實（AR/VR）應(yīng)用。盡管疫情對電信基礎(chǔ)設(shè)施供應(yīng)鏈產(chǎn)生了很大影響，但全球消費者和商業(yè)用戶不斷對網(wǎng)絡(luò)和云服務(wù)產(chǎn)生新的需求。社交網(wǎng)絡(luò)、商務(wù)會議、UHD視頻流、電子商務(wù)和游戲應(yīng)用將繼續(xù)推動增長。

每個家庭和人均連接到互聯(lián)網(wǎng)的設(shè)備數(shù)量正在增加。隨著功能和智能不斷增強(qiáng)的新型數(shù)字設(shè)備的出現(xiàn)，每年的采用率都在上升。此外，不斷擴(kuò)展的機(jī)器對機(jī)器應(yīng)用，如智能電表、視頻監(jiān)控、醫(yī)療保健監(jiān)控、連接驅(qū)動器和自動化物流，極大地促進(jìn)了設(shè)備和連接的增長，并推動了數(shù)據(jù)中心基礎(chǔ)設(shè)施的擴(kuò)張。

由于預(yù)算削減，CPO社區(qū)面臨困難時期，只有在可插拔設(shè)備精疲力竭時CPO的全面部署才會發(fā)生。至少在接下來兩代交換機(jī)系統(tǒng)中，CPO很難與可插拔模塊競爭，在很長一段時間內(nèi)可插拔模塊仍將是首選。由于在數(shù)據(jù)中心中的網(wǎng)絡(luò)功率效率，CPO最近受到了很多關(guān)注。思科、臉書/Meta、IBM、英特爾和微軟等行業(yè)重量級公司一直在努力推動CPO；博通、GlobalFoundries、Marvell、Quanta Cloud Technology等公司也加入了進(jìn)來。

分析表明，與數(shù)據(jù)中心總功耗相比，聯(lián)網(wǎng)節(jié)省的功耗可以忽略不計。只有博通、英特爾、Marvell和其他一些CPO公司會將專有解決方案推向市場。

隨著6.4T光學(xué)模塊最晚在2029年到來，CPO和可插拔光學(xué)器件之間可能發(fā)生激烈的競爭，預(yù)計CPO系統(tǒng)中的多個技術(shù)障礙將在此時得到解決。不過，收發(fā)器行業(yè)正在不斷創(chuàng)新，以推動可插拔光學(xué)器件市場。在CPO系統(tǒng)實現(xiàn)網(wǎng)絡(luò)應(yīng)用的批量交付之前，將在可插拔設(shè)備中使用CPO方法，且光學(xué)引擎將在高性能計算的未來系統(tǒng)中越來越受歡迎。行業(yè)生態(tài)系統(tǒng)，包括Ayar Labs、Intel、Ranovus、Lightmatter、AMD、GlobalFoundries和其他圍繞機(jī)器學(xué)習(xí)（ML）系統(tǒng)供應(yīng)商N(yùn)vidia和HPE，已經(jīng)取得了相當(dāng)大的進(jìn)展，計劃在2024年至2026年間批量交付產(chǎn)品。

光子集成電路可以實現(xiàn)高功率和成本效益的光學(xué)互連CPO，可以預(yù)計，800G和1.6T可插拔模塊將備受歡迎，因為它們具有100G和200G單波長光學(xué)器件的優(yōu)勢，因此可以在QSFP-DD和OSFP-XD尺寸中實現(xiàn)技術(shù)和成本效益。

光纖距離芯片組也越來越近，用光將數(shù)據(jù)引入到集中處理點是架構(gòu)設(shè)計師的主要目標(biāo)之一。這一趨勢始于十年前安裝在PCB上的光學(xué)組件專有設(shè)計。這些嵌入式光學(xué)互連（EOI）的想法在板載光學(xué)聯(lián)盟（COBO）中得到了延續(xù)，其制定的規(guī)范允許在網(wǎng)絡(luò)設(shè)備制造中使用板載光學(xué)模塊。

CPO是一種創(chuàng)新方法，可以將光學(xué)器件和交換機(jī)ASIC緊密結(jié)合在一起。由于在50T交換芯片中使用16個3.2Tbps光學(xué)模塊是當(dāng)今技術(shù)的挑戰(zhàn)，NPO通過使用高性能PCB基板（一種內(nèi)插器）解決了這一問題。NPO內(nèi)插器更寬，使芯片和光學(xué)模塊之間的信號路由更容易，同時仍能滿足信號完整性要求。相比之下，CPO能以更低的信道損耗和更低功耗使模塊和主機(jī)ASIC更接近。

運營商喜歡什么樣的解決方案？

如今，光可插拔模塊市場供應(yīng)鏈已經(jīng)建立完善，包括分立或集成組件供應(yīng)商、生產(chǎn)發(fā)射器和接收器光學(xué)組件（TOSA和ROSA）、多路復(fù)用器、DSP和PCB的光學(xué)公司以及組裝/測試集成商。此外，一個交換機(jī)盒中多個不同可插拔模塊的互操作性有助于行業(yè)的靈活性。高度集成的光學(xué)器件和硅片非常需要新的工程能力和代工廠，這對于傳統(tǒng)的中型企業(yè)來說是不可接受的。只有價值數(shù)十億美元的光學(xué)供應(yīng)商才能負(fù)擔(dān)得起從可插拔產(chǎn)品轉(zhuǎn)向CPO的費用。

需要指出的是，盡管主流部署了主要針對大型云運營商的CPO解決方案，但仍有許多小型企業(yè)數(shù)據(jù)中心沒有采用最新的互連技術(shù)。這意味著，即使CPO成為主流技術(shù)，可插拔模塊仍將對CPO在技術(shù)或經(jīng)濟(jì)上不可行的幾個應(yīng)用（如長途應(yīng)用和邊緣數(shù)據(jù)中心）有很高的需求。預(yù)計可插拔技術(shù)在未來10年內(nèi)不會逐步淘汰。不過，可插拔光學(xué)行業(yè)可能會整合，而CPO市場將形成多供應(yīng)商商業(yè)模式。

市場調(diào)研公司CIR表示，數(shù)據(jù)中心CPO的部署將在很大程度上受到交換演進(jìn)的驅(qū)動，到2025年，將達(dá)到102.4Tbps。CIR表示，與使用可插拔光學(xué)器件相比，CPO可以將功耗降低30%，每比特的成本降低40%。

在組件層面，與前板可插拔產(chǎn)品（FPP）相比，CPO具有潛在的經(jīng)濟(jì)效益。例如，正如Ranovus董事長兼CEO Hamid Arabzadeh所說：成本是一個關(guān)鍵因素，因為不需要PAM4 IC定時器，“不需要時鐘和數(shù)據(jù)恢復(fù)（CDR）芯片和其他FPP項目也可能帶來節(jié)約?！?/p>

串行器和解串器（SerDes）鏈路是CPO的熱門話題。Martin Vallo博士認(rèn)為，224Gbps數(shù)據(jù)速率的標(biāo)準(zhǔn)化SerDes鏈路是使CPO成為主流的必備條件之一，可以通過多種鏈路類型提供信號，包括片對片（D2D）、芯片到芯片、芯片到模塊（C2M）、中距離芯片到芯片（MR）和長距離芯片到片（LR）。

FPP和CPO部署模型的比較

與此同時，思科和OIF成員Jock Bovington強(qiáng)調(diào)，共封裝的好處之一是降低整體功耗?！安捎霉卜庋b時——無論是在同一基板（CPO）上還是在高密度中間層（HDI）基板（NPO）上——通道的損耗都會大大減少，能夠使用明顯更低功耗的SerDes，如XSR（10dB）或XSR+（13dB）。OIF開發(fā)了兩種類型的電氣接口?！?/p>

誰是CPO的第一人選？

關(guān)于CPO首先大規(guī)模應(yīng)用的領(lǐng)域，CIR認(rèn)為是數(shù)據(jù)中心，首先是超大型數(shù)據(jù)中心和大型企業(yè)數(shù)據(jù)中心。創(chuàng)始人兼總裁Lawrence Gasman解釋道：“在一段時間內(nèi)，超級規(guī)模將占據(jù)主導(dǎo)地位，但企業(yè)數(shù)據(jù)中心將逐漸獲得份額，因為它們太多了！此外，HPC和超級計算機(jī)多年來也一直在使用接近CPO的東西?！?/p>

Ranovus董事長兼CEO Hamid Arabzadeh也同樣談到了計算空間的潛力，該公司3月與AMD/Xilinx合作展示了用于AI/ML平臺的新一代CPO解決方案，以實現(xiàn)節(jié)能、高通量和高密度光學(xué)互連。他認(rèn)為，CPO的兩個主要應(yīng)用領(lǐng)域是低容量（每個CPO<3.2Tbps）以太網(wǎng)光學(xué)模塊，以及高容量（≥3.2Tbps/CPO）的以太網(wǎng)交換機(jī)和計算解決方案。

Martin Vallo博士同意CPO的高功率計算可能性。他認(rèn)為，在實現(xiàn)數(shù)據(jù)中心內(nèi)互連的實際商業(yè)地位之前，CPO會在高功率計算中更受歡迎，而不僅僅是取代FPP?！氨M管主流部署的高端CPO解決方案主要用于大型云運營商的200Tbps及以上的交換機(jī)，但仍有許多小型企業(yè)數(shù)據(jù)中心沒有采用最新的光互連技術(shù)，因此速度要慢得多?！彼f。

然而，在如日中天之前，CPO還有一系列棘手的問題需要解決，一些與CPO需求側(cè)有關(guān)，另一些與供應(yīng)側(cè)有關(guān)，許多問題涉及CPO如何與幀中繼終端（FRT）和FPP競爭。

Lawrence Gasman認(rèn)為，實現(xiàn)批量生產(chǎn)是CPO面臨的一個挑戰(zhàn)。CPO設(shè)備“不是傳統(tǒng)意義上的完全可插拔”。由于CPO技術(shù)將嚴(yán)重依賴硅光子學(xué)，Martin Vallo認(rèn)為：“為了滿足市場需求，并讓最終用戶相信CPO的可行性，多供應(yīng)商的商業(yè)模式和制造產(chǎn)量必須是可以接受的?！?/p>

Yole還指出，如今的光學(xué)模塊市場已經(jīng)建立了良好的垂直整合，包括分立或集成組件供應(yīng)商、光學(xué)公司以及發(fā)射機(jī)光學(xué)子組件（TOSA）、接收光學(xué)子組件、多路復(fù)用器、DSP和PCB產(chǎn)品以及組裝/測試集成的供應(yīng)商。
是否能夠拔掉插頭？

人們普遍認(rèn)為，關(guān)于插頭很快消亡的報道是錯誤的。Hamid Arabzadeh認(rèn)為，CPO和可插拔設(shè)備將共存，因為后者“為以太網(wǎng)交換機(jī)帶來了可配置性”。

Martin Vallo認(rèn)為，可插拔設(shè)備本身正在發(fā)展。“對于100Terabit的交換容量來說，可插拔1.6T八進(jìn)制小型可插拔-超密度（OSFP-XD）似乎將成為首選。目前尚不清楚3.2T OSFP-XD是否是一種可插拔的外形，可能實現(xiàn)204.8T?！?/p>

那么，CPO高速公路的下一步會發(fā)生什么呢？Hamid Arabzadeh認(rèn)為：“NPO有CPO的缺點，但沒有模塊的優(yōu)點?！盚utchins表示，一個更明顯的行業(yè)趨勢是支持更高數(shù)據(jù)速率的共封裝解決方案，例如200G串行電氣接口。
Martin Vallo則推測下一階段的標(biāo)準(zhǔn)可能會導(dǎo)致標(biāo)準(zhǔn)插座設(shè)計，將支持不同光學(xué)規(guī)格和可靠性要求。“標(biāo)準(zhǔn)化才剛剛開始，這個過程可能需要長達(dá)五年時間。”他提醒道。

從現(xiàn)在到未來

2020年，開始出現(xiàn)了第一批CPO概念驗證并創(chuàng)建了規(guī)范。四大超大型云運營商中的兩家——Meta和微軟——積極支持CPO滲透到其云網(wǎng)絡(luò)中。

2022年，交付了數(shù)千臺CPO引擎進(jìn)行試點測試。今年，盡管遇到一些宏觀經(jīng)濟(jì)逆風(fēng)，將對預(yù)算密集型項目產(chǎn)生負(fù)面影響，但在硅光子學(xué)進(jìn)步的推動下，深度光子學(xué)集成已經(jīng)在某些數(shù)據(jù)中心應(yīng)用中證明了可行性。CPO架構(gòu)也肯定會在數(shù)據(jù)通信之外的領(lǐng)域繼續(xù)它的故事。