史丹佛研究者警告：治理「世界模型」是 AI 下一個更棘手的政策難題

隨著人工智慧從語言領域跨入能理解與預測實體世界的「世界模型」（world models），史丹佛的研究者警告，政策制定者面臨的治理挑戰將比大型語言模型更為陡峭，而搶在技術成熟前建立框架的時間窗口正在縮小。

世界模型與語言模型的差異，在於它們建模的對象。語言模型學習的是文字之間的統計關係，輸出是文本；世界模型則試圖建立對物理環境的內部表徵——物體如何運動、動作會造成什麼後果、場景在時間中如何演變。這種能力是機器人、自駕系統與各類具身智慧的基礎，也是近期多家業者投入的方向，包括車廠宣示轉型為「實體 AI」企業的策略。

治理難度上升的原因有幾個層面。首先是**危害的性質改變**：語言模型的主要風險是資訊性的——錯誤資訊、偏誤、有害內容；而世界模型驅動的系統直接在物理空間中行動，失效可能造成人身傷害或財產損失。其次是**評估方法的落差**：語言模型可以用基準測試與紅隊演練評估，而實體系統的安全性需要在真實或高擬真環境中驗證，成本與時間都高出數個量級。第三是**責任歸屬更複雜**：當一個具身系統造成損害時，責任要落在模型開發者、硬體製造商、系統整合商還是操作者，現有法律框架並無明確答案。

時間窗口的緊迫性則來自技術與監理的速度差。語言模型的經驗顯示，監理框架的成形往往落後於技術擴散數年——歐盟的 AI 法規範直到近期才有部分條款生效，而生成式模型早已普及。若世界模型循相同軌跡，等到具身系統大規模部署時，監理才開始追趕，介入成本將高出許多。

對產業界而言，這也是可預期的合規成本。投入機器人、自駕與工業自動化的業者，宜提前建立可稽核的安全驗證流程與事故記錄機制，而非等待規範明朗。

後續值得觀察的，包括各國監理機關是否將世界模型納入既有 AI 框架、安全評估標準的成形，以及重大事故是否會加速立法進程。