輝達最強 AI 推論機櫃 Groq 3 LPX 量產,鴻海承接組裝
2026/08/26
輝達旗下最強的 AI 推論機櫃 Groq 3 LPX 進入量產階段,組裝訂單由鴻海承接。這反映推論專用硬體正成為 AI 基礎設施建置的新重心。
推論與訓練在硬體需求上的差異,是理解這類產品的起點。訓練需要極高的浮點運算能力與晶片之間的高頻寬互連,工作負載大而集中;而推論則不同——它需要的是低延遲、高吞吐與良好的能效比,且對記憶體頻寬的依賴往往高於純運算能力。針對推論場景專門設計的架構,能在這些指標上取得優於通用加速器的表現。
推論需求的成長曲線也與訓練不同。訓練是階段性的投入——完成一次訓練後,模型便可長期使用;而推論則隨使用量線性成長,每一次呼叫都消耗實際的運算資源。當 AI 應用從實驗走向生產環境,推論的總運算量會持續超越訓練,成為算力需求的主體。這正是推論專用硬體受到重視的根本原因。
以「機櫃」而非單一加速器作為產品單位,則反映了部署方式的改變。當代 AI 基礎設施的最小可用單元已不是單張卡或單台伺服器,而是整個機櫃——包含運算節點、高速互連、電源分配與液冷系統的完整組合。這種整合方式簡化了客戶的部署工作,但也把系統整合的技術要求提升到新的層級。
鴻海承接組裝的角色,正是在這個層級。整機櫃的組裝需要同時處理高速訊號完整性、極高功率密度下的散熱設計、以及數千個連接點的可靠度;任一環節出錯都可能造成整櫃效能不達標或運轉不穩。而這類設備的單價極高,報廢或返修的成本相當可觀,使得良率控制成為核心能力。
從商業角度,這也延續了台廠在 AI 硬體上的定位演進。從單純的伺服器代工,延伸到機櫃整合、電源與散熱系統,再到完整的部署與驗證服務;每往上游一層,附加價值與客戶黏著度都隨之提高。近期已有台廠表示 AI 相關訂單的能見度延伸至 2028 年,正反映這個結構的穩固。
風險則來自幾個面向。零組件成本全面上揚——記憶體、矽晶圓與功率半導體都在漲價,而中游組裝業者的轉嫁能力有限;同時,客戶集中度高,需求高度依賴少數大型專案的推進節奏。
後續觀察重點包括:實際出貨量與交付時程、機櫃產品在營收中的占比與毛利率,以及推論專用硬體在整體 AI 硬體支出中的比重變化。