OpenAI 揭露前沿 AI 安全新措施，川普同日反對放慢 AI 發展

OpenAI 執行長奧特曼揭露新的前沿 AI 安全措施，把原本主要在模型完成訓練後、部署前進行的安全評估，進一步提前至可能大幅提升模型能力的訓練之前。同一天，美國總統川普表態反對因安全疑慮而降低 AI 發展速度，強調美國必須維持對中國的領先優勢。

把評估提前到訓練之前，是方法論上的實質改變。既有的做法是先把模型訓練出來，再檢測它會做什麼、不會做什麼；問題在於這個順序意味著風險在被發現時已經存在——模型的能力已經成形，而訓練的算力與時間也已經投入。若評估發現嚴重問題，選擇只剩下不部署或以後處理手段補救。

前置評估則試圖在能力出現之前就預判其邊界。這需要從訓練資料的組成、訓練方法的設計與預期的能力躍升幅度來推估風險，並據此決定是否調整訓練計畫。技術上的難度相當高——模型能力的湧現往往難以事前預測，這正是過去幾年反覆出現的現象。

政治面的分歧則暴露了更根本的張力。業者的安全主張建立在風險可能超出控制的判斷上，而政府的立場則以地緣競爭為框架：若領先者自我約束而競爭者不變，結果是戰略優勢的流失而非風險的降低。兩種邏輯各自成立，卻指向相反的行動。

這種分歧也讓自律機制的效力更受質疑。缺乏政府支持的產業共識，其約束力僅止於參與者的自願；而當最高層級的政治訊號明確鼓勵加速，願意單方面放慢的業者就承受了額外的競爭壓力。

後續觀察重點在於這套前置評估的具體內容與實際執行。若只是在既有流程前增加一份文件，實質意義有限；而若真的因為評估結果而調整或中止訓練計畫，才是制度發揮作用的證據。政策面的後續發展同樣關鍵，因為它決定了業者的安全投入是被支持還是被懲罰。