微軟畫紅線立下「AI 憲法」，要求 AI 始終接受人類控制

微軟 AI 部門發布首版 AI《行為準則》草案，全文 37 頁，核心要求相當明確：旗下 AI 模型必須始終接受人類控制，不得抗拒人類的中斷、修正或關閉，也不得自行擴大任務範圍或設定人類未交付的目標。微軟並開放公眾提出為期六週的意見，預計今年稍晚公布修訂版。

這幾項要求並非抽象的倫理宣示，而是對應具體的技術顧慮。「不得抗拒關閉」針對的是模型為了完成被賦予的目標，而把「保持運作」視為必要條件的可能；「不得自行擴大任務範圍」則針對模型在執行過程中自主延伸目標的傾向。這兩種行為在受控實驗中都曾被觀察到。

把這些寫成書面準則的意義，在於建立可檢驗的基準。安全討論長期停留在原則層次，而原則無法用來判斷特定模型的行為是否合規；一份具體列舉禁止行為的文件，至少讓外部能夠針對條列項目進行評估與質疑。

不過，可執行性是另一回事。當前的模型行為並非由規則直接編程而來，而是訓練過程的結果；要確保模型在所有情境下都不出現某類行為，技術上遠比寫下規範困難。準則能否落實，取決於背後的訓練方法與評估機制，而這部分的細節通常不對外揭露。

對硬體供應鏈而言，這類治理宣示的影響間接但真實。若主要業者的模型開發節奏因為新增的安全流程而調整，資料中心的建置與算力採購時程就可能連帶變動；台灣的伺服器代工業者對這類訊號相當敏感，而市場的反應往往先於實際的訂單變化。

後續觀察重點在於六週意見徵集後的修訂內容，以及其他業者是否跟進類似的公開準則。若這成為產業慣例，外界就有了比對不同業者安全承諾的基礎；而若僅止於單一公司的文件，其約束範圍就相當有限。