個股:晶心科RISC-V授權業務再下一城,獲Rain AI採用,將攜手並進生成式AI
【財訊快報/記者李純君報導】32/64位元RISC-V處理器核心供應商暨RISC-V國際協會創始首席會員晶心科技(6533)宣佈對記憶體內計算(CIM)技術業者Rain AI,授權晶心科的AX45MPV,而Rain AI也將與晶心科的客制運算事業部合作,推出記憶體內計算(CIM)生成式人工智慧解決方案。
隨著全球經濟大量採用生成式人工智慧為消費者及企業提供前所未有的利益,無論是應用在雲端、邊緣,或特別是在最小的感測器中,能量消耗是一大挑戰。記憶體內計算(CIM)是目前降低能耗最具潛力的解決方案,可將能耗降低多達50倍。透過直接在記憶體單元中執行計算,CIM可以顯著減少機器學習中常見矩陣運算所需的能量。
然而,僅憑CIM本身並無法完全解決大量且不斷增長的機器學習運算需求。晶心科表示,RISC-V CPU為基於CIM基礎的NPU提供高效編程且未來看好的理想處理器選擇,且RISC-V架構允許用戶能夠添加客制指令來呼叫CIM計算模塊,從而減輕軟體開發的負擔。晶心科技為此特別提供了COPILOT編譯器來自動化客制化指令的過程。
晶心科董事長林志明表示:「晶心科非常榮幸且興奮地與Rain AI成為授權及合作夥伴關係。CIM是實現生成式AI應用的必要技術,也因此晶心科專注於支持CIM客戶。Rain AI採用數位CIM技術設計了最節能的矩陣乘法單元,因此期待Rain AI 在未來發布突破性的解決方案。」
Rain AI執行長William Passo說道:「晶心科提供了最優秀的RISC-V解決方案來滿足我們的技術需求,還願意投入資源幫助Rain AI加速開發產品,並成功降低人工智慧運算所需的能源消耗。將最先進的模型在任何外型尺寸的裝置中運行是人工智慧的未來,與晶心科的合作讓我們更向此邁進了一大步。」
Rain AI進一步與晶心科客制運算事業部(CCBU)合作,透過現場及遠距諮詢服務,協助加速整合晶心科AX45MPV和ACE/COPILOT客制指令。晶心科客制運算事業部(CCBU)是一支由專家組成的小團隊,負責為一些具有領先技術的授權客戶進行複雜的客制及整合工作。Rain AI將在2025年初發表其加速器解決方案。