新型 AI 採用全新推理方式,運行成本可能低上數倍
2026.08.31
研究團隊提出全新的推理架構,宣稱運行成本可較主流模型低上數倍。這為推論成本的降低提供了架構層面的另一條路徑。
研究團隊提出一種全新的推理架構,宣稱其運行成本可較主流模型低上數倍。在推論成本已成為 AI 商業化核心變數的階段,這條架構層面的路徑值得關注。 推論成本之所以關鍵,在於它的累積特性。訓練是一次性的投入,而推論則隨使用量線性成長;當服務規模擴大,推論的總成本便成為決定毛利率的主要因素。這也是雲端業者與模型公司紛紛投入自研晶片的根本原因——硬體端的優化能直接降低單位成本。 而架構層面的改善,提供了另…