AI伺服器應用持續升溫,相關設備的硬體規格需求也隨之提升,使得業界過往普遍採用的容量與頻寬標準,已無法完整滿足現今龐大AI運算所需的效能。呼應產業現狀, AI解決方案與工業級記憶體品牌宜鼎國際推出「CXL記憶體模組」,透過全新CXL協定,提供單條64GB大容量及高達32GB/s的頻寬。宜鼎CXL記憶體採用E3.S 2T規格,為系統提供更彈性且成本合理的擴充方式,讓伺服器可直上AI運算所需的硬體規格。除了提升伺服器容量與頻寬外,更透過CXL獨創的「共享記憶體資源」特性及PCIe介面,打破傳統記憶體通道的頻寬限制,讓伺服器效能可隨著AI發展與時俱進。
TrendForce研調預估,在大型雲端業者及品牌廠對AI伺服器的持續投資下,今年AI伺服器出貨量將上修至167萬台、產值占整體伺服器市場比重高達65%。同時,對伺服器效能至關重要的CPU亦迅速演進,然而儘管CPU的運算能力提升,卻受限於傳統記憶體通道對頻寬的限制,讓CPU無法完整獲得記憶體的運算資源,因而難以發揮最大硬體效能。此情形遍布在全球數以萬計的伺服器上,尤其對擁有大量伺服器的資料中心而言,影響更為顯著。
宜鼎積極投入創新,領先推出採用全新CXL協定的記憶體模組,以改善上述情形、並解決伺服器系統現存的三大瓶頸。包括:透過採用簡化的協議及高相容性的PCIe 5.0介面,改善「系統元件之間因協定不同導致的傳輸延遲」;透過CXL的記憶體池(Memory pooling)技術,讓同一層架多台伺服器的CPU、加速器等運算元件共享記憶體資源,減少資源冗餘,解決「記憶體利用率低」的狀況。
此外,有別於目前主流DDR架構,CXL底層技術採用PCIe介面,使其可透過獨立通道,與伺服器內既有的DDR5記憶體並存,讓CPU在現有的DIMM以外,可再輕鬆從PCIe介面獲得CXL記憶體模組帶來的額外頻寬與容量,有效解決目前「CPU可用記憶體頻寬受限」的痛點,發揮加乘效益。
宜鼎CXL記憶體模組採用EDSFF標準下的E3.S 2T尺寸規格,可靈活抽換、調配容量,讓伺服器享有高擴充彈性。此外,宜鼎CXL記憶體具備單條64GB的存取容量;若裝載4個CXL記憶體模組,即可為原本配備8條128GB記憶體的伺服器增加30%記憶體容量及40%頻寬,輕鬆將其擴充至AI運算所需的1.2TB以上容量。宜鼎CXL記憶體外觀設計採用鋁合金外殼,正反兩面分別為霧面的銀、黑配色,不僅沿襲宜鼎專注工控的沉穩質感、更揉合CXL代表的創新與革命性特質。
宜鼎CXL記憶體支援CXL 2.0規範、採用Type 3傳輸協定,並透過PCIe Gen5 x8介面,提供高達32GB/s的傳輸頻寬。因此非常適用於加速AI與機器學習、大規模分析、圖形資料庫等應用。
宜鼎國際工控DRAM事業處總經理張偉民表示,宜鼎持續致力為AI賦能,也因而願意挹注大量研發資源提升系統運算效能,領先全球模組廠商,成為率先投入開發並量產CXL記憶體的品牌之一。CXL記憶體除了能大幅提升伺服器頻寬與存取容量,更具備廣泛的支援性,可幫助宜鼎的伺服器與資料中心客戶,在不須大幅改動硬體的前提下,擴充既有系統、達到近乎無痛的效能升級。目前CXL協定已在各國際大廠協力推動下持續蓬勃,我們也相當看好由CXL引領的運算趨勢,將可讓伺服器端的AI應用推升至下個高峰。
CXL目前在業界仍屬新興技術,透過宜鼎細緻而全方位的導入與技術支援服務,可讓客戶在面對全新架構時,安心擁抱升級。同時,宜鼎具備多年工控與AI領域客製經驗、以及從各代DDR到CXL的豐富產品規格,可提供高彈性、為各種終端環境量身打造的記憶體配置與解決方案。
宜鼎CXL記憶體模組預計於2025年初正式出貨,為雲端運算、大型資料中心、網路通訊、邊緣運算等領域賦能。