AGI 時代來了，AI 推理與創作能力進化，記憶體供應鏈歡呼

新一代模型在推理與創作能力上的明顯躍進，預期將進一步推升記憶體需求，讓記憶體相關供應鏈成為這波能力進化的直接受惠者。這個連結的技術基礎，比表面看來更為緊密。

推理型模型的資源消耗特性，與早期的一般模型有本質差異。這類模型在給出答案之前會先進行延伸的內部推導，逐步拆解問題、嘗試不同路徑並自我檢驗。這段過程產生的中間狀態必須全部保存在記憶體中，而其容量需求隨推理長度增加而累積。

換言之，同樣的模型參數規模下，推理型模型的單次任務記憶體佔用可能是一般模型的數倍。當使用者的查詢從單輪問答轉向複雜的多步驟推理，記憶體需求的成長速度就會明顯超過查詢數量的成長速度。

創作類應用則帶來另一種壓力。長篇內容生成、多模態輸出與需要維持一致設定的任務，都要求模型在長脈絡中保持連貫，而脈絡長度直接對應記憶體容量。近年模型支援的脈絡窗口持續擴大，每一次擴大都是記憶體需求的階梯式上升。

對供應鏈而言，這意味著需求成長的驅動力從單純的裝置數量，轉向每單位運算所需的記憶體容量與頻寬。高頻寬記憶體的堆疊層數持續增加、一般伺服器記憶體的單機配置同步提高，兩條線都指向同一個方向。

不過，技術面的變數同樣存在。推論效率的演算法改進——例如更有效率的注意力機制或快取策略——可能降低單位任務的記憶體需求。後續觀察重點在於實際的記憶體出貨量與模型使用量之間的比例變化，那才能反映需求成長的真實強度。