資料中心正面對大型語言模型(LLM)與生成式人工智慧(Generative AI)帶來的龐大資料傳輸需求,而近期發布的IEEE 802.3df-2024標準進一步推動傳輸速度升級,全力滿足高速傳輸需求。
新思科技資深產品市場經理張小林表示,近來,大型語言模型和生成式AI的應用發展為資料中心帶來新的傳輸需求。乙太網路400Gbps/800Gbps標準(IEEE 802.3df-2024)於近期推出,而新思科技已於2月底發表1.6T乙太網路IP解決方案,協助推動資料中心向1.6T轉型。張小林預測,大概2025年能在市面上看到比較多具有1.6T乙太網路功能的產品。
張小林說明,資料中心採用1.6T乙太網路將面臨訊號衰減挑戰。從物理特性來看,頻率越高,損耗越高,而資料中心在乙太網路換代時,往往不會改動原本的機櫃配置,導致1.6T需要在晶片端改善插入損失(Insertion Loss),並在系統端採用更嚴格的板材和線纜,才能在高速傳輸下維持既定傳輸距離。
採用「光」取代「電」作為傳輸媒介,也是克服傳輸損失的方式之一。張小林表示,儘管光學共同封裝(Co-packaged Optics, CPO)在業界已經討論多年,考慮可維護性、可靠性和可測試性,目前CPO方案尚未獲得全球Tier 1資料中心採用,預期1.6T將繼續維持傳統以電傳輸的方式,朝向光的轉型將在未來慢慢推進。
隨著資料中心的運算和傳輸需求提升,業者對於節能的重視程度正逐漸提高,而資料中心要做到節能,需要先確認能源消耗的主要面向。張小林表示,目前資料中心約有六成的能耗與乙太網路等資料搬運部分相關。面對如此可觀的比例,就算只是小幅的改善都將對整體資料中心產生顯著的影響,而新思科技的1.6T方案便從底層設計開始,讓能源消耗相較前代產品降低50%,進一步幫助資料中心提高能源效率。
展望未來,除了生成式AI,張小林認為,自動駕駛汽車可能也是關鍵趨勢之一,打造全自動駕駛汽車同樣需要大量資料中心資源進行訓練。面對新興AI應用對於高速傳輸的極高要求,2023年成立的超乙太網路聯盟(Ultra Ethernet Consortium, UEC)也正積極討論基於乙太網路的通訊堆疊架構,著手制定Ultra Ethernet Transport(UET)協定,從傳輸層開始制定能夠滿足AI/HPC運作需求的開放式標準,規畫於2024年第三季推出第一版標準。接下來,預期1.6T和超乙太網路將攜手緩解資料中心的傳輸壓力,幫助創新AI應用順利落地。