【財訊快報／陳孟朔】全球企業市值一哥輝達(Nvidia，美股代碼NVDA)週一(24日)宣布，專攻低延遲AI推理的Groq 3 LPX機架已全面投產，預計今年稍後正式上線，象徵去年底斥資約200億美元取得Groq技術與資產後，相關產品開始進入商業化階段。新系統將與Vera中央處理器及Rubin圖形處理器協同運作，補強輝達在生成式AI推理市場的產品布局。

輝達高階總監迪翁．哈里斯(Dion Harris)表示，Groq 3 LPX將率先部署於新型雲端服務商Nebius的Token Factory平台，協助業者向對回應速度高度敏感的客戶提供更高階服務。Groq 3 LPX機架整合256顆Groq 3語言處理器(LPU)，每顆晶片配置500MB高速SRAM，以降低記憶體瓶頸；根據Artificial Analysis測試，在特定模型與10萬個token上下文環境下，每秒可輸出3400個token。

Groq晶片主要負責AI模型推理中的解碼階段，特別適合程式編寫及AI代理等要求即時反應的工作，不會取代可同時用於訓練及推理的GPU。Vera Rubin系統將負責處理大量上下文與通用運算，Groq 3 LPX則加速逐一生成token的延遲敏感工作，讓輝達可依不同工作負載配置最合適的處理器。

需要釐清的是，輝達去年12月並非完整收購Groq公司，而是以據報約200億美元取得Groq部分資產、非獨家技術授權及延攬關鍵主管，Groq仍以獨立公司形式營運。面對超微(AMD)與Cerebras合作搶攻低延遲推理市場，輝達正透過Groq技術擴大Vera Rubin平台應用���執行長黃仁勳先前估計，從Blackwell到Vera Rubin系列產品，至2027年累計銷售額可達1兆美元。