SanDisk 發表首個高頻寬快閃記憶體標準，為 AI 推論提供新記憶層

SanDisk 公布業界首個高頻寬快閃記憶體（High Bandwidth Flash，HBF）標準。這項技術被定位為在高頻寬記憶體（HBM）之外的補充方案，目標是為 AI 推論工作負載提供容量更大、成本更低的記憶層。

要理解 HBF 的意義，必須先看當前 AI 系統的記憶體困境。大型語言模型的參數量持續膨脹，而模型推論時需要把權重載入記憶體。目前 AI 加速器使用的 HBM 雖然頻寬極高，但單顆容量有限且成本高昂——當模型規模超過單一加速器的 HBM 容量，就必須拆分到多顆晶片上，或頻繁地在主記憶體與 HBM 之間搬移資料，兩種做法都會造成效能損失。

HBF 的構想是在記憶體階層中插入新的一層：容量遠大於 HBM、頻寬遠高於傳統 SSD、成本遠低於 DRAM。其技術基礎是把 NAND Flash 以類似 HBM 的方式堆疊並透過高速介面連接，藉此突破傳統快閃記憶體受限於介面頻寬的瓶頸。對於權重讀取遠多於寫入的推論工作負載而言，Flash 的讀取特性其實相當適配。

這條路線的產業意涵值得注意。當前 AI 記憶體市場高度集中在少數幾家 HBM 供應商手中，產能與定價權都極為集中。若 HBF 能取得實際採用，等於為 NAND Flash 業者開闢一條進入 AI 核心供應鏈的路徑，市場結構將出現變化。這也是為什麼快閃記憶體廠商積極推動此類標準的商業動機。

技術挑戰同樣明確。NAND Flash 的寫入壽命有限、寫入延遲高，且以區塊為單位的抹寫特性與 DRAM 的隨機存取模式截然不同。要讓它在記憶體階層中發揮作用，需要控制器、韌體與軟體堆疊的深度配合，並針對特定工作負載做最佳化。這意味著 HBF 不太可能成為通用記憶體，而會鎖定在權重載入、KV 快取等特定用途。

生態系的接受度是關鍵變數。任何新的記憶體標準要成功，都需要加速器廠商在晶片設計階段納入支援，並有軟體框架配合調度。單一廠商發布標準只是起點，能否吸引其他記憶體業者、加速器設計商與雲端業者共同參與，才是決定命運的因素。

後續觀察重點包括：其他記憶體廠與加速器業者的表態、標準的規格細節與世代規畫，以及首批採用該技術的實際產品時程。