微軟畫紅線立下「AI 憲法」，要求 AI 始終接受人類控制
2026.09.16
微軟發布 37 頁的《人本 AI 行為準則》草案，要求旗下模型不得抗拒人類的中斷、修正或關閉，也不得自行擴大任務範圍。
微軟 AI 部門發布首版 AI《行為準則》草案，全文 37 頁，核心要求相當明確：旗下 AI 模型必須始終接受人類控制，不得抗拒人類的中斷、修正或關閉，也不得自行擴大任務範圍或設定人類未交付的目標。微軟並開放公眾提出為期六週的意見，預計今年稍晚公布修訂版。 這幾項要求並非抽象的倫理宣示，而是對應具體的技術顧慮。「不得抗拒關閉」針對的是模型為了完成被賦予的目標，而把「保持運作」視為必要條件的可能；…
