如果我們能提供一個(gè)好的硅光子集成系統(tǒng),我們可以解決人工智能能源效率和計(jì)算能力方面的關(guān)鍵問題,這將是一個(gè)新的范式轉(zhuǎn)變,我們可能正處于一個(gè)新時(shí)代的開端。
—— 臺(tái)積電副總裁
業(yè)界正在尋求異質(zhì)集成和混合鍵合同時(shí),也在研究以玻璃基板為代表的具有成本效益和改進(jìn)性能的新材料以及 CPO 等新技術(shù),以將先進(jìn)封裝提升到新的水平,滿足下一代AI/HPC性能需求。本文為您概述了玻璃基板技術(shù)在硅光/光電集成上的技術(shù)新進(jìn)展。
CPO +?TGV
人工智能模型的爆炸式增長(zhǎng)正在打破現(xiàn)有基礎(chǔ)設(shè)施——傳統(tǒng)的互連技術(shù)產(chǎn)生了數(shù)據(jù)瓶頸,迫使GPU和其他加速器閑置,限制了計(jì)算性能,增加了功耗并推高了成本。為應(yīng)對(duì)高性能計(jì)算的趨勢(shì),支持超過GPU集群的速度,共封裝光學(xué)(CPO)技術(shù)應(yīng)運(yùn)而生,通過在共同的封裝基板上集成多個(gè)芯片,實(shí)現(xiàn)了光學(xué)引擎的集成。
共封裝光學(xué)器件(CPO)的興起在過去十年中,數(shù)據(jù)中心以太網(wǎng)交換機(jī)的容量從0.64Tbps 飆升至25.6Tbps,這得益于 64x 400Gbps或32x 800Gbps可插拔光收發(fā)器模塊的采用。然而,這些高速模塊在目前的外形尺寸內(nèi)帶來了重大挑戰(zhàn),問題包括所需的電氣和光學(xué)連接器密度,以及不斷上升的功耗。
CPO是異構(gòu)集成領(lǐng)域的一個(gè)重要進(jìn)步,其玻璃封裝載板所用到的核心技術(shù)TGV,將硅光模塊和CMOS芯片異構(gòu)集成到一個(gè)封裝基板上,這些方法充分利用了玻璃基板的獨(dú)特特性,從玻璃基板邊緣進(jìn)行插拔互聯(lián),可降低功耗和成本,成為共封裝光學(xué)器件 (CPO) 和集成光學(xué)的定制解決方案。
CPO與CoWoS技術(shù)不同,當(dāng)玻璃基板技術(shù)無需中介層時(shí)即可直接安裝SoC和HBM晶片,這使得在更低的高度內(nèi)安裝更多晶片成為可能。當(dāng)玻璃通孔TGV技術(shù)作為中介層時(shí)是一種更便宜可靠的2.5D/3D方案。玻璃基板具有卓越的電氣、機(jī)械和可靠性性能優(yōu)于 Si 中介層可以在一個(gè)封裝中連接更多晶體管,從而實(shí)現(xiàn)比目前使用的有機(jī)基板更大的可擴(kuò)展性和開發(fā)更大的芯片系統(tǒng)級(jí)封裝。CPO能夠集成玻璃波導(dǎo)和玻璃通孔 (TGV),從而實(shí)現(xiàn)更高的互連密度并改進(jìn)功率傳輸和信號(hào)路由。相比之下玻璃基作為芯片封裝載板具備更優(yōu)的散熱性,其在大功率器件封裝和高算力數(shù)據(jù)中心服務(wù)器等領(lǐng)域具有一定的應(yīng)用空間。
CPO共封裝光學(xué)成為一匹黑馬半道殺出,CPO器件中的光纖管理挑戰(zhàn),推動(dòng)了帶有波導(dǎo)扇出的玻璃基板封裝基板和用于前面板布線的嵌入式 PCB 波導(dǎo)的發(fā)展。在光互連方面,玻璃基板和聚合物波導(dǎo)、擴(kuò)展光束光學(xué)以及先進(jìn)的對(duì)準(zhǔn)和連接技術(shù)等方面的創(chuàng)新正在為高密度、低損耗和高成本效益的解決方案鋪平道路,有利于構(gòu)建下一代人工智能基礎(chǔ)設(shè)施。
英特爾已驗(yàn)證通過玻璃基板設(shè)計(jì)增強(qiáng)光學(xué)傳輸信號(hào)的CPO技術(shù),提供最高性能和最可靠的光學(xué)連接解決方案,讓無處不在的人工智能成為可能,如今這種設(shè)計(jì)已為相關(guān)供應(yīng)鏈中開辟新的商機(jī)。
全球領(lǐng)先的光電互聯(lián)方案商
Ayar Labs作為是未來半導(dǎo)體的領(lǐng)導(dǎo)者之一,專注人工智能速度移動(dòng)數(shù)據(jù)的光互連I/O解決方案。今年Ayar Labs推出業(yè)界首款符合CW-WDM MSA標(biāo)準(zhǔn)的16波長(zhǎng)光源,可驅(qū)動(dòng)256個(gè)光載波,實(shí)現(xiàn)16 Tbps的雙向帶寬,這是人工智能工作負(fù)載所必需的帶寬水平。
Ayar Labs這種下一代人工智能方案來自與康寧公司的合作。他們通過將Ayar Labs的TeraPHY光學(xué)I/O小芯片與康寧的玻璃基波導(dǎo)模塊相結(jié)合。康寧的Glass Interposer封裝方案中是玻璃通孔技術(shù),在玻璃基板上刻蝕出孔洞,?然后填充銅,?用于高速信號(hào)與電源信號(hào)的傳輸。這樣領(lǐng)先的光學(xué)解決方案,為人工智能生態(tài)系統(tǒng)帶來了先進(jìn)的光學(xué)功能。另外愛立信正在與Ayar Labs和康寧合作開發(fā)這種人工智能驅(qū)動(dòng)的解決方案,作為他們未來移動(dòng)系統(tǒng)技術(shù)探索的一部分。
目前,Ayar Labs已獲得由 Boardman Bay Capital Management 牽頭的 1.3 億美元額外融資,以推動(dòng)其光學(xué) I/O 解決方案的商業(yè)化?;萜掌髽I(yè) (HPE) 和 NVIDIA 參與了此輪投資,加入了現(xiàn)有戰(zhàn)略投資者 Applied Ventures LLC、GlobalFoundries、Intel Capital 和 Lockheed Martin Venture。
全球大部分硅光器件上采納康寧玻璃基板技術(shù)。不僅有支持垂直高密度互聯(lián)的TGV基板,還有支持硅光芯片量產(chǎn)的光學(xué)接口。在不久以后,康寧會(huì)將采用玻璃做光電基板,采用玻璃基波導(dǎo)來代替硅實(shí)現(xiàn)射頻信號(hào)互聯(lián)和垂直TGV通孔以降低光學(xué)互聯(lián)損耗。這不僅寫入了康寧的項(xiàng)目報(bào)告,也融入了Intel的光電基板的光學(xué)和電學(xué)的實(shí)現(xiàn)技術(shù)路徑。
Fraunhofer IZM研究組認(rèn)為基于玻璃基板的光子集成系統(tǒng)是解決帶寬增大、通道數(shù)變多的核心技術(shù)。在Fraunhofer IZM的混合光子集成中,以具有電氣饋通的金屬化玻璃中介為基礎(chǔ)3D集成有源電子和光子元件,采用玻璃真空封裝/密封,滿足(硅)光子封裝對(duì)更高數(shù)據(jù)傳輸速率的要求。
三星先進(jìn)封裝團(tuán)隊(duì)預(yù)知HBM 進(jìn)一步發(fā)展可能會(huì)遇到的瓶頸以及解決方案。目前三星表示,采用硅光子技術(shù)實(shí)現(xiàn) HBM 內(nèi)存與邏輯部分的互連,可實(shí)現(xiàn)更快的速率和更好的能效。三星預(yù)設(shè)了兩種互連架構(gòu),一種類似現(xiàn)有結(jié)構(gòu),但使用光子中介層實(shí)現(xiàn)互連;另一種直接將邏輯部分和 HBM 分離,用硅光子通信連接兩部分。從三星目前積極部署玻璃基板技術(shù)預(yù)測(cè),以上方案中不排除將TGV作為中介層的戰(zhàn)術(shù)部署。三星計(jì)劃在2027年推出一體化、CPO集成的AI解決方案,旨在為客戶提供一站式AI解決方案。三星還投資硅光子學(xué)公司 Celestial AI ,目前完成了1.75 億美元 C 輪融資。
如今,臺(tái)積電已經(jīng)成立玻璃基板技術(shù)團(tuán)隊(duì),也在積極布局硅光子領(lǐng)域,或?qū)?shí)現(xiàn)硅與光電的跨界整合。面對(duì)傳統(tǒng)電信號(hào)互聯(lián)在干擾、速率、能耗等方面的缺點(diǎn)逐漸顯現(xiàn),臺(tái)積電表示,其正開發(fā)的三維立體光子堆疊技術(shù) COUPE(緊湊型通用光學(xué)引擎),采用了 SoIC-X 芯片堆疊先進(jìn)封裝,將電路控制芯片疊放在硅光子芯片頂部,整合為單芯片光學(xué)引擎。未來目標(biāo)或可能通過使用TGV技術(shù)實(shí)現(xiàn)光信號(hào)互聯(lián),更能滿足 HPC 和 AI 應(yīng)用對(duì)大帶寬無縫互聯(lián)的需求。臺(tái)積電計(jì)劃在2025 年完成將COUPE 技術(shù)用于小尺寸可插拔設(shè)備的技術(shù)驗(yàn)證,并于2026 年推出基于CoWoS 封裝技術(shù)整合的共封裝光學(xué)(CPO)模塊,玻璃技術(shù)將是他們嘗試的備選方案。面對(duì)英特爾積極地拉攏供應(yīng)鏈、制定標(biāo)準(zhǔn)、建構(gòu)生態(tài),咄咄逼人導(dǎo)致目前臺(tái)積電嚇得啞口無言,并沒有積極宣傳自己的玻璃方案,但客戶已經(jīng)暴露了相關(guān)信息。
麻省理工學(xué)院將光學(xué)引擎與交換機(jī)專用集成電路(ASIC)集成在同一封裝上的CPO器件代表了行業(yè)的重大轉(zhuǎn)變。在其CPO方案中玻璃基板波導(dǎo)為集成光學(xué)器件提供了一種前景廣闊的解決方案,在尺寸穩(wěn)定的基底上實(shí)現(xiàn)低損耗的光學(xué)和電氣互連。玻璃封裝基板上的 PIC 倒裝芯片示例,封裝表面的離子交換玻璃波導(dǎo)與蒸發(fā)光耦合互連,封裝與印刷電路板之間通過玻璃通孔 (TGV) 電氣互連。
在OFC2024光纖通信大會(huì)上,英特爾的集成光子解決方案部門展示了業(yè)界最先進(jìn)和首款完全集成的光學(xué)計(jì)算互連(OCI)和玻璃基板的小芯片。OCI小芯片利用了英特爾的硅光子技術(shù),硅光子集成包括玻璃基板、片上激光器和光放大器以及電子IC。也可以與下一代CPU、GPU、IPUs和其他片上系統(tǒng)(SOC)集成封裝并運(yùn)行實(shí)時(shí)數(shù)據(jù)。數(shù)據(jù)方面,OCI的小芯片旨在支持64個(gè)通道的32G數(shù)據(jù)傳輸,可支持高達(dá)每秒4Tbps的雙向數(shù)據(jù)傳輸,傳輸距離可達(dá)100米,重要的是,該技術(shù)與PCIe5.0兼容。而支持新興800G和1.6T應(yīng)用的下一代200G通道pic正在開發(fā)中。
至于如何青睞玻璃基板,英特爾稱贊玻璃基板的耐高溫、平整度、機(jī)械穩(wěn)定性以及超高的互聯(lián)密度。同時(shí),英特爾也在解決玻璃通孔最棘手的問題,如其脆弱的熱應(yīng)力表現(xiàn),玻璃是剛性體,很容易受力產(chǎn)生裂紋。Intel采用新的處理方式,一是增大玻璃的熱膨脹系數(shù),通過鹽分摻雜可提高膨脹系數(shù),二是增加射頻柔性緩沖層,吸收應(yīng)力,再一個(gè)就是取消工型布局,換做I型孔,避免降溫過程銅的收縮壓力過大。
Intel除了向世人發(fā)布下一代芯片的封裝基板技術(shù),將采用玻璃基板提高射頻帶寬外,還公開其專利技術(shù)即硅光芯片采用玻璃TGV基板、EMIB技術(shù)、玻璃光接口,實(shí)現(xiàn)玻璃體的光接口、電互聯(lián)和電互聯(lián)的集成作為下一代硅光芯片封裝工藝。除了玻璃基板本身,英特爾引入FoverosDirect混合鍵合,為CPO通過玻璃基板設(shè)計(jì)利用光學(xué)傳輸?shù)姆绞皆黾有盘?hào)。由于這些設(shè)計(jì)的靈活特性能夠無縫集成光學(xué)互連,可實(shí)現(xiàn)超大尺寸封裝和小芯片集成,并具有非常高的組裝良率,強(qiáng)大的高容量平臺(tái)出貨量超過800萬張。
目前大部分CPO產(chǎn)品都是基于硅光的方案,但是VCSEL在超短距傳輸上有著明顯的成本與功耗優(yōu)勢(shì),IBM介基于VCSEL陣列的CPO技術(shù)方案,與II-VI合作一起承接了美國能源部(ARPA-E)的項(xiàng)目,將電芯片、VCSEL和PD芯片分別倒裝到玻璃基板上,使得整個(gè)系統(tǒng)的可靠性提升了1000倍,帶寬達(dá)到800Gbps(16x50Gbps)。IBM的VCSEL CPO各方面的性能優(yōu)于HP、Fujitsu和Furukawa競(jìng)爭(zhēng)對(duì)手。
NVIDIA 和 AMD
我們期待玻璃基板在未來三年的落地花開,業(yè)界將寄希望于英偉達(dá)和AMD身上。雖然處理器的玻璃基板如今很新奇,但它們可能比人們想象的更接近被采用。
黃仁勛吹牛逼自夸Blackwell是“全球最強(qiáng)大的芯片”,供應(yīng)鏈對(duì)GB200寄予厚望。而封裝基板被爆出為玻璃基板,并將計(jì)劃將扇出型面板級(jí)封裝最早引入GB200,2025/2026年量產(chǎn)。根據(jù) IDTechEx 的研究,Nvidia 最新的 Blackwell CPU (型號(hào)GB200)表明,每個(gè) GPU 大約需要兩個(gè)800G收發(fā)器,高效、高帶寬通信的需求對(duì) AI 來說變得越來越重要,這使得硅光子學(xué)和光子集成芯片成為 AI 驅(qū)動(dòng)未來的重要組成部分,這無疑讓人產(chǎn)生遐想。
AMD 或有可能從有機(jī)基板轉(zhuǎn)向玻璃基板。被爆出采用玻璃基板用于下一代高性能處理器的系統(tǒng)級(jí)封裝 (SiP) ,計(jì)劃在時(shí)間在 2025 年至 2026。據(jù)業(yè)內(nèi)設(shè)計(jì)師表態(tài),AMDMI300 因?yàn)槁N曲問題使得原本應(yīng)該使用 cowos-r后來又換回了 cowos-s,并決定加速玻璃基板開發(fā),該公司將在 2025 年推出采用 SP5 封裝的基于 Zen 5 的 EPYC 處理器,該處理器將繼續(xù)使用有機(jī)基板。至于數(shù)據(jù)中心 APU,AMD 的 SH5 封裝已經(jīng)可以容納大量芯片(在 Instinct MI300A 中),因此我們不確定其基于 CDNA 4 的繼任者是否會(huì)在 2025 年使用新的玻璃基板。預(yù)計(jì) 2026 年 AMD 將發(fā)布全新的 Zen 6 和 CDNA 5 架構(gòu),屆時(shí)該公司可能會(huì)考慮將至少部分最高端產(chǎn)品轉(zhuǎn)為玻璃基板,以提供無與倫比的性能。
大佬們嘗試采用玻璃技術(shù)的硅光集成解決高算力的性能強(qiáng)化方案,使得芯片性能在納米制程技術(shù)受限的情況下加速擴(kuò)張,或?qū)㈤_啟一個(gè)新時(shí)代。作為硅光集成的基礎(chǔ)設(shè)施,玻璃基板目前全球量產(chǎn)在即,這位先進(jìn)封裝領(lǐng)域的后起之秀,能否實(shí)現(xiàn)大佬們的企盼,我們我們拭目以待啦。
最后插播一個(gè)廣告。在ICEPT2024電子封裝技術(shù)國際會(huì)議上,我們?cè)O(shè)置了特別小組會(huì)議,聯(lián)合引領(lǐng)國內(nèi)TGV技術(shù)產(chǎn)業(yè)化的公司——云天半導(dǎo)體、佛智芯以及肖特等公司的負(fù)責(zé)人和技術(shù)專家討論《 Prospects and Challenges of Glass TGV Technolog》,并為ITGV 2024國際玻璃通孔技術(shù)創(chuàng)新與應(yīng)用論壇做準(zhǔn)備。