伺服器發威,代工廠頻傳佳音,輝達帶路,廣達AI機櫃獨步全球
今年的台北國際電腦展(Computex 2023),GPU大廠輝達可謂是整場會展中最光芒萬丈的存在,繼A100、H100之後宣布發表GH200 Grace Hopper超級晶片,記憶體容量是A100的500倍以上、頻寬比傳統加速系統中的標準PCIe Gen5高7倍,將更適合用來滿足市場激增的AI需求,展現驚人的高速運算能力,同時也推出打造伺服器的模組化參考架構Nvidia MGX,可應用於各種規模大小的資料中心。黃仁勳在此次主題演講中特地提到台灣的合作夥伴,其中,除了伺服器大廠美超微之外,廣達(2382)旗下的雲達科技將率先於8月量產採用由MGX設計的機型,從台廠當中脫穎而出。
AI熱潮持續發酵,創辦人黃仁勳直指:「AI未來商機有望達到30兆台幣」IC設計大廠邁威爾也認為AI將是公司關鍵成長動能,預估相關產品營收24年將呈倍增成長,外資在評估各家公司的受惠程度後表示,輝達因握有極具競爭力的GPU技術,而在AI伺服器位居領先,市占率估達到60~70%,至於雲端服務商自主研發的ASIC晶片則為其次,市占率逾20%。
根據研調機構集邦科技最新預估,今年度全球AI伺服器出貨將以120萬台的數量,年增38%,4年後的26年CAGR達22%,出貨量進一步提升至236萬台的水準。當中包括美系、中系的雲端服務商(CSP),除了持續導入輝達A100、A800的產品之外,下半年將擴大導入售價更高的H100、H800,也會推動整體AI伺服器市場規模走揚,尤其光是A100與H100就因為AI應用的擴展之下,今年出貨量有望成長率衝上5成。
傳統伺服器主要由CPU、主機板、記憶體、顯示卡、電源供應幾項關鍵零組件組成,經由ODM廠組裝製造、品質檢測過後,再出貨交付給客戶,不過人工智慧的場景因為更要求伺服器的執行速度和演算法的精準度,同時生成式AI必須投注巨量數據進行訓練,因此對AI系統的穩定性也格外要求。集邦科技認為,為縮短訓練時間就得採用大量高效能繪圖晶片(GPU),相較於通用型伺服器以CPU為主算力,AI伺服器以GPU為主要架構,能同時處理各種影像等多項資料,以輝達的A100為例,市場需要的GPU數量就高達兩萬顆,未來ChatGPT大模型商業化所需的GPU數量甚至會超過3萬顆。以訓練為主要用途的伺服器,其GPU成本占比超過7成。根據目前輝達所定義的AI伺服器平均每台均搭載4張或8張高階顯卡(GPGPU),也搭配兩顆主流型號的X86伺服器CPU,AI模型越趨複雜化之下將刺激更多的記憶體需求,尤其DRAM、高頻寬記憶體(HBM)的用量也將水漲船高。
盤點AI受惠程度廠商,小摩在估算科技業者今年AI營收占比後指出,獲益最大的以美企為首,台廠當中,電子代工廠包括鴻海集團(2317)、廣達(2382)、英業達(2356)AI營收占比至少5%起跳,上看1成以上;緯創(3231)僅占個位數,伺服器ODM大廠緯穎(6669)統計到首季,按比重估算不及兩成;另一家神達(3706)旗下的神雲科技除了有AI伺服器產品之外,5G O-RAN伺服器今年起也向電信運營商客戶出貨,由於神雲伺服器出貨產品組合多元,從準系統到整機都有,無法單純以平均單價來預估整體伺服器業務營收,但業者表示高峰時準系統單月出貨佔比可達10%以上;伺服器管理晶片(BMC)的信驊(5274)也被點名,占比約為1%。
信驊在股東會時指出,目前AI伺服器出貨量占比雖然不高,但是對BMC的採用量是傳統伺服器的3~5倍,而且單價更高。儘管上半年受到整體伺服器市況保守,前4月累計營收為8.97億元,衰退幅度達4成,而下半年起,法人推測由英特爾的新平台Eagle Stream與AMD的Genoa的放量將刺激BMC的規格升級。
此外 ,信驊也持續拓展新應用,去年就已吸引到CSP大廠採用高密度伺服器會用到的Mini BMC,幫助實施兩介管理,隨著伺服器架構提升,使用顆數從以往的CPU搭配1顆BMC之外,將新增4~8顆Mini BMC,也帶來新的營運機會,不但如此,信驊還切入新客戶,預計第3季送樣,明年開始貢獻營收。
廣達長期著墨於伺服器產品,包括Google、AWS、Meta、Microsoft4大雲端服務商都是客戶,白牌伺服器部分占比22年則約2成左右。Meta原預計今年啟用的4座資料中心確定遞延至明年,其中3座是為了重新修改設計,用於支援AI及非AI雙架構,雖然影響到廣達的出貨,但僅是因為遞延認列而未取消,今年來自伺服器的出貨量仍將維持年增態勢;技嘉(2376)在今年的電腦展攜手子公司技鋼科技,大力展出一系列AI/HPC超級晶片伺服器等超過110件產品,展現全方面研發實力,而在AI伺服器加速量產下,技嘉認為將有助於抵銷顯卡產品的衰退。
緯創去年就因為自身伺服器業務成長、以及旗下緯穎貢獻增加所致,帶動22年整體營收創下新高。緯創投入GPU架構的伺服器產品已有5、6年,且其中的GPU伺服器、加速卡及高速交換品等相關AI運算產品,出貨效益自去年逐步浮現,法說會上緯創已揭露AI伺服器與車用電子的營收貢獻,約各為150億元,法人預估緯創伺服器總出貨今年將持平,AI伺服器以主機板出貨型態較多,未來若以系統方式出貨將有更多營收貢獻;子公司緯穎(6669),為白牌伺服器高純度的公司,占比近100%,公司也十分看好AI驅動的成長潛力,其中出貨給輝達的A100預計今年底、明年初出貨,出貨量屆時會顯著增加,先前法說會時已指出,在手的新專案有5成為AI伺服器相關,也將透過進階的散熱技術研發提升產品附加價值,可見在各家平台陸續切入、應用層面擴大之下,未來AI營收貢獻站上5成並非不可能的事。