人工智慧(AI)的發展加速資料中心進化，CPU作為普遍存在的運算單元，在伺服器等基礎設施的重要性持續提升。近日，Arm宣布拓展其Neoverse產品系列至第三代，並針對全新N3、V3平台推出運算子系統(CSS)，結合Arm小晶片系統架構(CSA)，攜手生態系應對AI時代的運算壓力。
Arm台灣總裁曾志光表示，工作負載(Workload)是資料中心的重點之一，有鑑於業界對於更高算力的需求，以及先前N2運算子系統的良好反響，Arm此次Neoverse產品更新除了N3，注重效能的V架構系列也首度推出運算子系統。此外，由於AI要求記憶體和運算單元彼此靠近，小晶片(Chiplet)架構也成為關鍵發展。
AI高速發展為資料中心帶來各式工作負載，在此之中，Arm首席應用工程師徐煥昇觀察，相較於以前重視AI模型的訓練(Training)，現在漸漸可以看到焦點轉往推論(Inference)的趨勢。根據分析預測，未來專注於推論的AI伺服器可能占有八成比例，而CPU在運算平台的普遍性，以及可對應不同軟體架構的彈性，將使其在AI推論方面扮演要角。
隨著工作負載越趨多元(圖1)，徐煥昇表示，單以Benchmark評定CPU效能已不足夠，需要根據實際應用的工作負載需求，同步對軟體及硬體設計進行優化。為了滿足特定應用的工作負載需求，除了CPU本身，還需要考慮整個系統的周邊配件設計以確保順暢運算，Arm運算子系統即是為此而生。
圖1 各種應用的工作負載示意圖 (圖片來源：Arm)
Arm運算子系統產品可整合系統設計，幫助業者快速開發客製化方案，近期推出的新產品進一步提升效能：CSS N3每瓦效能比CSS N2高出20%，CSS V3的每插槽效能則比CSS N2高出50%。除此之外，Arm CSS方案也專注開發如小晶片(Chiplet)等全新技術，透過運算子系統可使小晶片設計更簡單。
儘管在製程、設計流程和驗證整合等領域尚須時間發展，小晶片可透過異質整合帶來的成本優勢及設計彈性，仍使其成為業界向AI時代的關注重點之一。Arm近期推出的小晶片系統架構，便旨在藉由開放式架構，增加不同業者的元件互相被採用的機會。
Arm運算子系統支援此架構，Arm應用工程總監徐達勇也表示，Arm將持續深耕小晶片技術，預計將推出新的協定層標準，在PCIe及CXL之外提供新的協定層選項。徐達勇說明，由於運算類小晶片需要處理CPU之間的通訊及一致性(Coherence)問題，Arm有機會提供更有效率的協定層方案。
徐達勇表示，在運算轉型的過程中，由合作夥伴組成的生態系統將能帶來許多優勢。Arm全面設計(ATD)以Arm的運算子系統為中心，合作夥伴已超過20家，開發項目包括驗證IP、客製化韌體，甚至是以先進的製程節點建構小晶片，例如Socionext便計畫採用台積電2奈米製程，以CSS V3架構推出32核心的CSS架構小晶片。未來，可預期運算架構將隨著AI等先進應用發展持續演進，同時相關生態系統也將繼續蓬勃發展，共同因應AI時代的運算需求。