郭耀斌 / 德國萊因電子電氣產品服務專案經理

 

AI 運算需求快速成長，也讓 AI 伺服器的功率密度大幅提高。從傳統 19 吋機櫃約 5–10kW，到 NVIDIA GB200 NVL72 約 120kW，再到未來可能達到 1MW 以上的 AI 機櫃，資料中心的能源需求已經不只是「伺服器用了多少電」這麼簡單。

 

當單一機櫃的功率快速增加，供電與散熱系統所消耗的能源也會同步受到影響。因此，AI 伺服器的能效管理正在出現一個重要變化：評估對象開始從單一伺服器延伸至工作負載、系統，最後到資料中心。

 

美國、歐盟、台灣，能效管理的切入點不同

目前全球尚未形成統一的 AI 伺服器專屬能效法規。  美國目前主要以 ENERGY STAR Computer Servers V4.0 為主，屬於伺服器產品層級的自願性認證，評估運作狀態效率、待機、電源管理等項目。AI 伺服器是否適用，還需要依產品型態、處理器插槽、APA、HPC 等條件個別判定。 歐盟則以 Regulation (EU) 2019/424 為主要制度，屬於伺服器產品層級的強制性生態設計規範，要求包括電源供應器效率、功率因數、待機功耗及運作狀態效率等。 台灣目前的管理方向則不同，主要是針對大型資料中心的能源使用進行管理。契約用電容量達 5MW 以上的案件涉及能源使用說明書審查及 BAT（最佳可行技術），目前尚無 AI 伺服器專屬能效門檻。

 

因此，AI 伺服器業者面對不同市場時，不能只問「有沒有 AI 伺服器能效法規」，而必須先確認產品層級與資料中心層級分別受到哪些制度管理。

 

為什麼 AI 伺服器不能只看單機功耗

高功率 AI 伺服器帶來的問題是，伺服器本身的能效與資料中心整體能效已經密切相關。

 

▲ AI 機櫃功率密度提高，冷卻與供電等支援系統的能源需求也隨之增加

 

PUE（電力使用效率）可以用來說明兩者的關係。PUE 是資料中心層級指標，用來比較資料中心總能源消耗與資訊設備能源消耗。  例如 PUE = 1.20，代表資訊設備使用 100 kWh 時，資料中心總能源消耗約為 120 kWh，其餘能源主要使用於冷卻、供電等支援系統。 因此，當 AI 機櫃功率密度持續提高，冷卻與供電基礎設施的需求也跟著增加，資料中心整體能源效率的重要性自然提高。

 

從伺服器能效走向 AI 工作負載能效

傳統伺服器能效評估常關注待機或運作狀態效率，但對 AI 運算而言，單純知道「用了多少電」已經不夠。 更重要的問題是：用了這些電，完成了多少 AI 運算工作？

 

因此，未來的評估方向可能包括每瓦效能，以及訓練、推論與 Token 吞吐量等實際 AI 工作負載。這代表能效的衡量方式可能逐漸從單純的「功耗」，轉向「每單位能源可以完成多少有效運算」。

 

能效評估的範圍將繼續往外擴大

未來 AI 伺服器的能效管理可以理解成一條逐步擴大的鏈： 功耗 → 每瓦效能／工作負載 → 系統 → 資料中心

▲ 能效評估範圍從伺服器延伸至工作負載、系統與資料中心

 

首先看單機功耗，再看每瓦可以完成多少 AI 工作；接著納入電源供應器（PSU）、供電與冷卻系統效率，最後再回到資料中心整體的 PUE 與能源管理。 這也意味著，AI 伺服器的能效問題將不再只是伺服器製造商的產品問題，而會逐漸與電力、散熱及資料中心營運效率連結。

 

AI 伺服器能效管理的下一階段

目前 AI 伺服器尚無統一的專屬能效法規，業者仍需要依不同市場的既有制度與產品範圍進行個別判定。但隨著 AI 伺服器功率持續增加，傳統以單機功耗為核心的評估方式，也將逐步面臨新的需求。

 

未來真正值得關注的，可能不只是「一台 AI 伺服器消耗多少電」，而是：每一瓦電力能完成多少 AI 工作，以及整個資料中心為完成這些運算需要付出多少能源成本。

 

---

FAQ

 

Q1｜目前有專門針對 AI 伺服器的全球能效法規嗎？
目前沒有統一的 AI 伺服器專屬能效法規。現階段主要仍以既有伺服器能效制度作為評估起點。

 

Q2｜美國目前如何管理 AI 伺服器能效？
主要制度為 ENERGY STAR Computer Servers V4.0，屬伺服器產品層級的自願性認證。AI 伺服器是否適用，需要依產品架構與相關條件個別判定。

 

Q3｜歐盟與美國最大的差異是什麼？
美國 ENERGY STAR 屬於自願性認證；歐盟 Regulation (EU) 2019/424 則屬於強制性的生態設計規範。

 

Q4｜台灣目前如何管理 AI 伺服器能效？
台灣目前主要從大型資料中心的能源使用管理切入。契約用電容量達 5MW 以上涉及能源使用說明書審查及 BAT，目前沒有 AI 伺服器專屬能效門檻。

 

Q5｜為什麼 AI 伺服器需要從伺服器看到資料中心？
因為 AI 伺服器功率提高後，供電與冷卻系統的能源需求也會增加，因此伺服器能效會進一步影響資料中心整體能源效率。

 

Q6｜什麼是 PUE？
PUE 是電力使用效率，用來衡量資料中心總能源消耗與資訊設備能源消耗的關係。PUE 越接近 1.0，代表資料中心額外能源使用相對越低。

 

Q7｜為什麼 AI 伺服器不能只看待機／運作狀態效率？
因為這些指標主要反映伺服器在特定狀態下的能源效率，未必能完整反映 AI 訓練與推論等實際工作負載的運算效率。

 

Q8｜未來 AI 伺服器能效會怎麼評估？
評估方向包括每瓦效能、AI 工作負載能效、系統能效及資料中心整體能效，評估範圍將從單機功耗延伸至 AI 工作負載、供電／散熱系統，以及資料中心整體能源管理。