Edge AI 生成式AI CPO LPO 是德

Edge AI創新應用開發者大會

突破AI資料傳輸瓶頸 CPO/LPO高速傳輸障礙迎刃解

2024-06-03
AI市場的快速發展,已經成為時勢所趨,同時AI模型的參數量呈現倍數成長,除了帶動半導體的需求,也需要克服大數據傳輸的挑戰。為了突破資料中心內部的傳輸瓶頸,CPO與LPO兩項技術受到市場高度關注。

過去半年到一年,人工智慧(AI)的技術成長超乎預期。是德科技資深技術專案經理林昭彥提及,AI市場的快速發展,從ChatGPT的用戶成長數據中可見一斑。過去Facebook在推出40週之後,用戶達到百萬,Instagram則在推出12週後累積百萬用戶。而ChatGPT在推出的一週之內,用戶數即達到百萬。AI已經成為時勢所趨,同時AI模型的參數量呈現倍數成長,除了帶動半導體的需求,也需要克服大數據傳輸的挑戰。

是德科技資深技術專案經理林昭彥指出,為了突破資料中心內部的傳輸瓶頸,業界投入CPO與LPO技術的開發

資料中心在AI時代面臨數據傳輸瓶頸,主要來自於資料中心內部的資料傳輸需求,而非資料中心與終端設備之間的傳輸。林昭彥說明,資料中心內的AI伺服器與交換器(Switch)的資料交換,占資料中心整體傳輸流量的70%。若是資料中心內的傳輸速度無法提升,就難以跟上未來AI工作負載的需求。

為了突破資料中心內部的傳輸瓶頸,業界投入傳輸速度更快的晶片開發。其中,共同封裝光學(CPO)與線性驅動可插拔光學(LPO)兩項技術受到市場高度關注。傳統上,伺服器透過ASIC交換器將電訊號傳輸到PCB,再轉換為光訊號傳出去。隨著資料傳輸速度越來越快、所需的頻寬增加,訊號在PCB板上轉換的耗損大幅增加,因此採用數位訊號處理器(DSP)來整合晶片與訊號轉換元件。但是DSP耗電較大,且維護不易。LPO技術則不使用DSP,直接提高PCB與晶片的傳輸,進而確保訊號轉換的品質,以達到省電與易於維護的目的。兩項技術各有優勢,導入上也有不同的挑戰需要克服。

在量測方面,CPO需要解決晶圓層級測試的難題。過去硬體架構中的電/光轉換元件只需要各別測試,但是當元件整合到晶片中,所有元件就需要經過半導體測試。因此業界還在摸索元件高度整合之下,如何執行CPO的測試流程,以及安排相關的測試設備架構。LPO由於不採用DSP,訊號無法透過DSP進行量測,不但測試流程更為複雜,也需要採購新的測試設備。

面對AI帶來的傳輸挑戰,以及CPO、LPO應用帶來的量測挑戰,是德提供224G乙太網路測試等解決方案。高速訊號的測試方案可量測PCB與物理層的參數,支援客戶在AI工作負載下,執行穩定的高速資料傳輸。

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!