訓練快一倍、資料省六成,新型預訓練法 GeoPT 讓 AI 具備物理直覺

訓練快一倍、資料省六成,新型預訓練法 GeoPT 讓 AI 具備物理直覺

2026/08/24

新型預訓練方法 GeoPT 讓模型具備物理直覺,訓練速度提升一倍且所需資料量減少約六成。這指向一條以歸納偏置換取資料效率的路徑。

新型預訓練方法 GeoPT 讓模型具備「物理直覺」,訓練速度提升一倍,且所需的資料量減少約六成。這指向當前 AI 發展中一條重要的替代路徑:以結構化的先驗知識換取資料與運算效率。

要理解這個作法的價值,得先看主流路線的限制。過去數年,模型能力的提升主要依靠規模擴張——更多參數、更多資料、更多運算。這條路徑確實有效,但其成本呈超線性成長;而高品質的訓練資料也已接近可取得的極限,繼續擴張的邊際效益持續遞減。

「物理直覺」這個概念,指的是模型對物體如何運動、互動與變化的內在理解。人類幼兒在缺乏大量資料的情況下就能掌握物體不會憑空消失、支撐不足會掉落等基本規律;而純粹從資料中學習的模型,往往需要極大量的樣本才能近似這些規律,且在未見過的情境中容易失效。

在預訓練階段導入物理結構的作法,本質上是給模型一組「歸納偏置」——事先告訴它世界運作的基本規則,讓它不必從零開始推導。這在機器學習中是相當古典的思路:當模型內建的假設與真實世界的結構相符,學習所需的樣本量便大幅下降。近年因為規模化路線的成功,這條路徑一度被邊緣化;而在成本壓力上升的環境下,它重新獲得關注。

資料量減少六成的實務意義相當直接。訓練資料的取得成本正快速上升——公開素材的法律風險提高,正式授權需要支付可觀費用,而專業領域的資料更是稀缺。若同樣的能力只需四成資料即可達成,整體的開發成本結構便顯著改變;這對資源有限的研究團隊與新進業者尤其重要。

應用面上,具備物理直覺的模型在幾個領域特別有價值。機器人控制需要預測動作的物理後果;自動駕駛需要判斷其他車輛與行人的運動趨勢;而科學模擬與工程設計則直接建立在物理規律之上。這些場景的共同特徵是:錯誤的物理判斷會造成實際的損害,而非僅是不夠好的答案。

不過,這類方法的限制同樣需要留意。內建的假設若與實際情境不符,反而會限制模型的適應能力;而如何在保有物理結構的同時維持通用性,是設計上的核心取捨。同時,實驗結果能否在更大規模與更多樣的任務上重現,仍需獨立驗證。

後續觀察重點包括:方法在不同任務與規模上的泛化表現、與主流預訓練方法的直接比較,以及在機器人與科學運算領域的實際採用。