在生成式AI快速推升算力需求的此刻,決定資料中心效能的關鍵要素,早已不再只是處理器的性能,如何在GPU、ASIC之間高速傳遞資料,也是一大關鍵,尤其是在GPU、ASIC叢集規模動輒擴展到數萬顆的今天,真正的瓶頸已逐漸從運算單元本身,轉移到高速互連上。
根據TrendForce觀察,AI 資料中心對800G以上高速光通訊模組的需求正快速攀升,不僅推升整體光通訊市場規模,也讓上游雷射元件供應不足的問題浮現。由於EML雷射光源供應商少、產品設計複雜,相關業者很難快速擴張產能;NVIDIA大舉掃貨,更進一步讓供需失衡情況進一步惡化。
AI需求爆發 EML產能擴張追不上
TrendForce研究副總儲于超(圖1)指出,EML雷射元件不只是雷射光源,而是整合了調變功能的雷射光源,因此其製程相當複雜。也因為這個緣故,在AI應用大爆發的今天,EML的產能擴張速度很明顯落後於市場需求。
圖1 TrendForce研究副總儲于超指出,EML雷射元件嚴重缺貨,有其結構性的因素存在。
儲于超透露,EML元件主要供應商如Lumentum、Coherent(Finisar)與三菱(Mitsubishi)等,先前已經有進行過一波擴產,但因為市場需求的成長速度太快,加上元件製程複雜,所以還是無法滿足客戶的訂單。
另一方面,雷射光源技術本身也處於世代交替期。由於EML結構複雜,未來頻寬提升的空間有限,因此,業界已經開始研究將光源、調變切割開來的技術路線。這時,雷射光源就會改用CW雷射。某種程度上,這也讓EML供應商在制定擴產計畫時,採取相對謹慎的態度。
但這個架構轉換本身,也存在技術上的挑戰。將調變跟光源分開後,獨立的調變元件固然可以提升頻寬跟連線密度,但光纖耦合的困難度也隨之增加。對半導體製程來說,微米級精度並不困難,但要以微米級精度將光纖跟調變器連接起來,對相關精密機械設備來說,是個不小的考驗。因此,目前以CW雷射搭配獨立調變的技術路線,還沒有成熟到能大規模量產的階段。
儲于超認為,這也是造成EML缺貨的原因之一。因為CW雷射需要搭配的調變元件目前在技術上還有一些問題,所以NVIDIA只能繼續採用EML雷射元件。但業界都有共識,隨著頻寬需求持續增加,CW雷射搭配調變元件將是必然的方向。
資料中心互連需求一分為二 光循提出對應解法
在雲端服務供應商(CSP)開始將目光從EML雷射轉向CW雷射之際,希望改用CW雷射來實現Scale-out互連之際,以2D面射光耦合作為核心技術之一的新創業者光循科技,要將CW雷射光源與自家的2D面射光耦合技術結合,為CSP業者提供新選擇。同時,針對Scale-up互連,該公司也提出以MicroLED取代傳統雷射二極體的方案,以進一步提高矽光子的整合度,並爭取客戶的青睞。
光循科技營運長方彥翔(圖2)指出,在AI資料中心興起後,資料中心內部網路的需求分成兩大類,一類是機櫃與機櫃之間的互連,另一種則是單一機櫃內部的互連。業界一般將前者稱為Scale-out,後者則是Scale-up。
圖2 光循科技營運長方彥翔表示,CW雷射搭配矽光子PIC,是國際大廠正在全力投入的方向。
這兩種應用情境對通訊技術的需求,有不同的側重點:Scale-out需要能支援數十公尺,甚至上百公尺通訊距離,Scale-up需要的距離則只有數公尺,但需要極高頻寬與超低延遲。但整體來說,為滿足高效能運算(HPC)與生成式AI的需求,不管是Scale-out或Scale-up,都必須支援更高的頻寬。這時候,I/O的密度就變成一個非常重要的技術指標,唯有能在有限的面積裡實作更多I/O,才能夠把總頻寬推上去。
方彥翔透露,光循選擇CW雷射搭配矽光子PIC,再結合2D陣列面射型光耦合技術這樣的技術組合,就是看好這個組合在I/O方面的優勢。撇開EML雷射供給吃緊的問題不談,EML雷射結構複雜,又只支援側向耦合,因此EML所能支援的I/O數量相當有限。相對的,CW雷射的結構單純,因此,在與EML雷射晶片相同尺寸的情況下,有更多面積可以給I/O利用。這時候,只要搭配能實現垂直耦合的技術,像是光循的2D陣列面射型光耦合,CW雷射可以支援極大的I/O數量。
至於Scale-up應用場景,光循則提出以MicroLED作為光源,取代傳統雷射光源的想法。
方彥翔表示,很多人談矽光子時,只想到雷射。但Scale-up是距離非常短、頻寬密度要求極高的場景,這時MicroLED是非常有潛力的選項。MicroLED的優勢在於體積小、可陣列化、易於高密度整合,非常適合伺服器內部、封裝內甚至晶片間的高速互連。而且,MicroLED對溫度的變化不敏感,雷射光源則無法在高溫環境中工作,因此,在晶片封裝時,整合MicroLED的困難度遠比整合雷射要容易得多。
台灣擁有完整的MicroLED產業鏈,也是光循選擇MicroLED的原因。方彥翔特別強調,MicroLED能成為光循核心技術之一,並非偶然,而是建立在台灣擁有完整的MicroLED產業鏈基礎之上。
台灣在MicroLED的製程、封裝、檢測,已經累積非常深的能力。在創辦光循之前,方彥翔在工研院帶領的研究團隊,就是以MicroLED作為研究主題,而且當時他們鎖定的應用,是需要整合動輒數百萬,甚至千萬顆MicroLED的顯示應用。但是,在Scale-up這個應用場景,只需要整合幾百顆甚至上千顆MicroLED就夠用了。這種等級的巨量轉移(Mass Transfer),對台灣廠商來說,在技術上並不是太大的問題。
當然,MicroLED並非沒有挑戰。方彥翔坦言,以MicroLED取代雷射,最大的技術門檻在於MicroLED的光強度較低。所以MicroLED能不能用,不只取決於光源本身,而是整個光電系統設計。
這也正是光循與光程研創聯手的關鍵所在。光程研創擁有目前業界性能最優秀,而且已經通過台積電驗證的鍺矽(GeSi)光感測器(PD)技術。基於鍺矽的高性能PD,能有效彌補MicroLED光輸出較低的先天限制。
「MicroLED光源搭配高靈敏度的鍺矽PD,再加上我們的2D光耦合結構,整個系統就會成立。」方彥翔說。
MicroLED將成光學I/O的關鍵技術
儲于超則認為,MicroLED光源技術真正能發揮其完整潛力的戰場,不見得是Scale-up應用,而是光學I/O(Optical I/O)。光學I/O是資料中心光通訊的下一個階段,其應用場景不只是機架內的互連,也包含同一張主機板上晶片間的互連。到了這個階段,資料中心互連就會進入全面光化的時代,因為就連晶片之間的互連,也已經不再是透過電訊號來進行,而是基於光訊號。
這聽起來很科幻,而且平心而論,還有很多細節問題需要找到解法,但由於國際大廠都在卯盡全力發展,光學I/O出現的時間點,可能會比原先預期的要更快。儲于超表示:「原本業界普遍認為,2030年以後才會看到採用光學I/O的晶片,但現在看起來,2030年之前,光學I/O就會出現了。」