【財訊快報／陳孟朔】中國人工智慧(AI)業者DeepSeek(深度求索)週二推出並開源推論框架DeepInfer，分享支撐旗下模型大規模運作的軟體技術，目標提高運算效率、降低計算成本與能源消耗。公司表示，希望透過公開正式營運環境使用的技術，協助開發者與企業以更具經濟效益的方式部署AI。

推論是指模型完成訓練後，處理使用者提問及產生答案的過程，其速度與資源使用效率直接影響服務成本。依DeepSeek官方文件，DeepInfer目前支援DeepSeek-V4.1-Flash模型，透過運算核心優化、平行處理與非同步排程等技術，提升硬體利用率及模型執行效率，並支援輝達SM100 GPU與華為昇騰950 NPU兩種硬體平台。

DeepInfer採Apache 2.0授權開源，讓開發者可取得程式碼並依需求調整，有助企業評估自行部署模型的可行性。不過，此次公開版本主要提供離線推論及大規模服務所需的核心功能，尚未包含完整線上服務需要的快取系統、部分運算分離部署及負載平衡機制，企業導入仍須進行額外整合。

隨企業AI應用擴張，如何降低每次模型運行的成本，已成為服務能否持續擴大的重要條件。DeepSeek此次將競爭延伸至推論軟體與部署效率，但實際節省幅度仍取決於硬體配置、工作負載及系統整合方式，不能直接將公司的降成本目標視為所有企業均可達成的成效。