Amazon 推出 TorchNeuron,向 Nvidia 的 PyTorch 生態發起挑戰

Amazon 推出 TorchNeuron,向 Nvidia 的 PyTorch 生態發起挑戰

2026/10/21

AWS 釋出 PyTorch 擴充套件 TorchNeuron,讓開發者只需調整程式指定的運算裝置,就能把既有模型搬到自家 Trainium 晶片上執行。此舉目標是打破 Nvidia 在 PyTorch 開發生態中的主導地位,降低企業更換 AI 晶片的門檻。

Amazon 旗下雲端服務 AWS 正式釋出 TorchNeuron,這是一套針對開源 AI 開發框架 PyTorch 的擴充套件,目的在於讓開發者更容易將既有 AI 模型改用 AWS 自研的 AI 加速晶片 Trainium 執行。根據 AWS 的說明,開發者在使用受支援的模型與功能時,通常只需調整程式中指定的運算裝置,就能維持原本的訓練與推論流程,大幅減少更換晶片時所需的修改工作。

PyTorch 是目前最廣泛使用的 AI 開發工具之一,絕大多數 AI 應用都以它為基礎建構,而且可免費使用。然而,PyTorch 生態長期與 Nvidia 的 GPU 及其 CUDA 軟體平台緊密綁定,開發者撰寫的程式、使用的函式庫與最佳化工具,大多預設在 Nvidia 硬體上執行。這種軟體層面的黏著度,被業界視為 Nvidia 在 AI 晶片市場維持領先地位的關鍵護城河之一。

據悉,AWS 多年來持續投入自研晶片,包括主攻訓練的 Trainium 與主攻推論的 Inferentia,希望在算力成本與供應上降低對外部晶片商的依賴。但硬體效能只是第一步,若開發者必須大幅改寫程式才能轉移平台,遷移成本往往會讓企業卻步。TorchNeuron 正是瞄準這道門檻,將轉換工作盡量收斂到「改一行裝置設定」的程度。

業界分析人士指出,AI 晶片競爭已從單純比拚算力規格,轉向比拚軟體生態與開發者體驗。Nvidia 的優勢不只在於 GPU 本身,更在於十多年來累積的工具鏈與社群。AWS 這次直接從 PyTorch 下手,等於選擇在開發者最熟悉的介面上提供替代路徑,而不是要求開發者學習全新的框架。這也是 Amazon 目前對 Nvidia 主導地位最直接的一次挑戰。據悉,其他雲端業者與晶片新創也正以不同方式嘗試降低開發者對單一硬體平台的依賴,例如推動開放的編譯器與中介層技術,讓同一套模型程式能在多種晶片上執行。AWS 此舉若獲得開發者認同,可能加速整個產業朝向硬體中立的方向發展,進一步削弱軟體綁定所帶來的競爭優勢。

對企業用戶而言,TorchNeuron 若能如宣稱般降低遷移成本,將提供更多算力選擇,並可能在價格談判上取得更大彈性。對 AWS 而言,若更多工作負載轉到 Trainium,可提升自研晶片的使用率,強化雲端服務的成本競爭力。不過,業界也提醒,實際效果仍取決於支援的模型與功能範圍,以及在不同工作負載下的效能表現,部分高度客製化或依賴特定 CUDA 功能的程式,可能仍需額外調整。

整體來看,TorchNeuron 的推出顯示雲端巨頭正積極從軟體層切入,試圖鬆動 Nvidia 的生態優勢。未來開發者社群的採用程度,將是觀察這場晶片生態之爭的重要指標。