隨著生成式AI快速普及，高密度運算帶來龐大散熱與能源壓力，促使資料中心加速導入液冷、智慧調控及能源優化技術。從浸沒式冷卻、動態負載調度，到再生能源與儲能系統整合，各項節能架構正逐步成為新世代AI資料中心的重要設計方向。
隨著生成式AI與邊緣運算爆發，資料中心建置需求劇增。國際能源署(International Energy Agency, IEA)指出，資料中心用電至2030年將翻倍達945TWh(約全球3%)，其中AI伺服器電力年增速(30%)遠超傳統伺服器。面對高功耗與熱管理挑戰，高能效AI運算架構已成永續發展關鍵。本文將解析冷卻架構、電力轉換及智慧管理等六大節能技術，並透過實際案例，探討其在提升能效與減碳的實質成效。
冷卻與熱管理技術
液冷(Liquid Cooling)與熱管設計
液冷技術透過冷卻液直接接觸發熱元件，熱傳導效率遠優於傳統氣冷(圖1)。目前Flex與JetCool等系統已支援120kW/櫃的功率密度，未來預期可達200–300kW，大幅提升散熱極限(資料來源：cn.flex.com)。
圖1 液冷與熱管設計示意圖 (資料來源：作者自行繪製)
浸沒式冷卻(Immersion Cooling)
將伺服器完全浸入電絕緣液(Non-Conductive Dielectric Fluid)，可降低風扇與空調所需能源，顯著降低空冷系統與通風系統負擔，有效節省資料中心空間與運作成本。
熱水+廢熱回收(Hot-Water Cooling & Waste Heat Reuse)
廢熱回收利用技術透過60～70°C的高溫冷卻水帶走熱能，並轉化為供熱或驅動製冷系統，降低對極端冷卻的依賴。例如iDataCool專案將伺服器餘熱導入建築暖氣系統，大幅提升整體能源使用效益。
動態控制與AI節能優化
AI/ML智慧HVAC控制技術
利用感測器數據(伺服器負載、空氣進風溫度、濕度、外部氣候條件等)來動態調整風扇速度、冷卻液流率、空調與冷水機組的設定點。避免過度冷卻與空轉。
負載預測與動態工作調度
智慧資源調度可根據負載預測，動態調整運算配置(如啟閉伺服器或調整功耗)，避免資源閒置。透過錯峰排程與負載預測，可有效減少系統空載浪費、縮減過度備援造成的資源浪費，顯著降低AI/ML平台的總耗能與碳排。
電力與配電效率
高效率電源轉換與直流配電
高效電力轉換透過優化AC/DC與DC/DC轉換效率，並採用高壓或直流供電，有效減少線損與變壓浪費。這類優化在大規模AI超級資料中心中，能累積顯著的節能成效。
低漏電時鐘同步元件
透過高精度時鐘同步，讓元件在間歇使用期間進入低功耗狀態。如SiTime的時鐘晶片，藉由高精度縮短喚醒時間，實現非運作元件的短暫休眠，有效節省能源。
硬體與架構設計
電壓與頻率動態調整/電源功率限制(Power/Thermal Capping)
當工作負載較低或某些元件未滿載時，動態降低電壓或頻率、限制功耗/散熱，以減少不必要的能耗。過去有研究指出這類方式可減少10-15%功耗，在GPU等加速單元中特別有效。
高密度設計與機架配置優化
透過風道設計、冷熱通道隔離與縮短流體路徑，可顯著降低風扇與泵浦功耗。在高密度液冷設計下，即使單櫃功率達120kW以上，仍能維持優異的電力使用效率(Power Usage Effectiveness, PUE)並控制冷卻成本。
再生能源與能源管理
綠電導入與能源調度
資料中心導入再生能源，並根據電價與綠電供應動態調整負載(如電價低時運行高耗能工作負載)。此舉能顯著降低營運成本與碳排放，是大型AI資料中心的核心策略(圖2)。
圖2 節能技術的應用(資料來源：各公司，MIC整理，2025年9月)
備用電源/儲能系統(Battery/Thermal Storage)
利用電池或儲熱系統，在電價高峰或冷卻需求大時釋放能量，達成負載轉移。此舉能有效平衡電力峰值、減輕電網壓力，並顯著降低電費開銷。
維運與架構效率
模組化資料中心架構(Modular/Containerized Data Centers)
採用標準化模組預先優化機房機電與冷卻配置，在快速部署的同時確保高效能與散熱控制。以Performance Optimized Datacenter(HP POD)系列為例，透過高度整合設計，其PUE可達1.05～1.25。
監測、維護與感測器網路
精密感測器監測溫濕度、伺服器溫度、風扇/泵浦流量控制等；預測維護減少設備異常引起的能耗浪費。維護管理優化能避免效率低下的冷卻循環、風扇持續運轉等浪費，提升整體PUE與能源效率(表1)。
隨著生成式AI與大型語言模型快速普及，AI模型的訓練與推論所需之運算需求激增，對能源的需求也隨之飆升。IEA警告，若無節能對策，AI相關碳排恐快速攀升。因此，綠色AI已成為全球政策(如歐盟AI Act)關注核心。其中，液體冷卻技術憑藉遠優於氣冷的熱傳效率與低PUE，成為降低能耗與成本的關鍵。目前NVIDIA、Google、Meta等科技大廠已將液冷視為下一代資料中心主流配置，Google也於TPU機櫃導入水冷系統。液冷技術不僅解決工程散熱，更是實現永續AI基礎架構的重要技術之一。
(本文作者何佳旻任職於資策會、許群昇為資策會研發協理、吳明儒為資策會主任)