《科技》AI需求暴增 Zettabyte:優質算力品質將是關鍵

【時報記者張佳琪台北報導】AI需求在兩年內暴增逾330倍,根據Google I/O主題演講(Sundar Pichai 主講)公布的數據,每月AI token生成量從約9.7兆,增至逾3.2千兆。AI基礎設施公司 Zettabyte(智百特)指出,全球AI算力需求正以前所未見的速度攀升,算力應以其交付「有用工作」的品質衡量,而非僅看硬體規格與每小時單價。
工研院主辦的「AI 伺服器市場及技術趨勢研討會」,Zettabyte(智百特)於會中提出優質算力主張。資深產品經理林子揚(Eric Lin)在專題演講中表示,AI 產業長期以兩項指標衡量基礎設施,「GPU數量」與「每小時租金」,但兩者都未回答客戶最在意的核心問題,也就是這些GPU究竟產出多少「有用」的AI Token,以及能否被可靠地衡量。
Zettabyte(智百特)認為,隨著AI訓練任務的進行,尖端AI產業擴展至數百萬張GPU、推論工作負載達數兆token,基礎設施的表現已不再僅由硬體規格決定。可靠性、即用性、可觀測性、成本透明、彈性與韌性與能源效率,日益決定理論上的算力能否轉化為真實世界的AI產出。
Zettabyte(智百特)採用一業界公認的產業研究機構的GPU叢集總持有成本(TCO)框架:兩座每小時GPU單價相同的叢集,一旦計入建置時間、利用率與停機,實際完成的有用工作可能差異甚大,即該機構所稱的「有效產出(goodput)」,也就是原始吞吐量中,真正完成有用工作的比例。Zettabyte(智百特)的方法建立在此一發現之上,算力的真實價值遠超過硬體採購成本;部署延遲、利用率不足、營運故障與叢集停機,都會實質影響AI基礎設施的有效產出與經濟價值,以及,超大規模下,單一故障事件即可能造成可觀的生產力損失。
Zettabyte(智百特)的zSUITE 平台可直接衡量上述因素,並將這些核心衡量落地與視覺化。透過zSUITE,基礎設施營運者得以掌握算力資源在生產環境中的表現,以及轉化為可用AI產出的實際效率。Zettabyte(智百特)指出,正在積極推動zSUITE平台的軟體授權,即將與工研院及台灣多所設有AI課程與研究實驗室的頂尖大學陸續展開合作,此一計畫是對下一代AI基礎設施人才的投資,期望厚植主權AI基礎設施所仰賴的在地專業能力。Zettabyte(智百特)認為,台灣不僅有條件建造AI基礎設施,更有條件協助衡量AI基礎設施的優質算力標準。
隨著全球AI投資持續加速,Zettabyte(智百特)表示,產業將逐漸從採購算力容量,轉向採購算力成果,屆時,可被衡量的品質,將會成為AI基礎設施最重要的競爭優勢之一。
