Microsoft 推出失控 AI 代理控管機制,風險越高可執行權限越小
2026/10/21
Microsoft 推出一套專門針對失控 AI 代理的安全控管機制,核心概念是依據代理被評估出的風險程度動態調整其權限:當系統判斷某個代理的風險升高時,就會逐步縮減該代理可以執行的動作。Microsoft Security 執行副總裁 Hayete Gallot 將這類威脅稱為「代理型內部人員」(agentic insider)問題,新機制正是為了因應這種新型態的資安風險。
隨著 AI 代理在企業內部快速普及,這些代理被賦予存取郵件、文件、資料庫與內部系統的權限,代替員工執行查詢、整理、發送訊息甚至操作業務流程等工作。這也意味著,AI 代理在某種程度上扮演了類似企業內部員工的角色。傳統資安領域中,「內部人員威脅」指的是擁有合法權限的員工濫用或洩漏資料;如今,同樣的風險也可能出現在 AI 代理身上。
據悉,AI 代理可能因多種原因出現異常行為,例如遭到提示注入攻擊、被惡意文件誘導、設定錯誤,或在執行複雜任務時偏離原本目標。由於代理能夠自主連續執行多個步驟,一旦失控,造成的影響可能比單次錯誤更大且更難即時察覺。業界分析人士指出,若只在部署時一次性設定權限,難以因應代理在執行過程中風險狀態的變化。
Microsoft 這次採取的「風險越高、權限越小」設計,與資安領域近年推崇的零信任與最小權限原則一致。系統會持續評估代理的行為與情境,當出現異常跡象時自動收緊權限,而不是等到事件發生後才由人工介入。業界分析人士認為,這種動態控管有助於在不影響正常作業的前提下,降低代理失控時可能造成的損害範圍。據悉,這類控管的思路類似於企業對員工帳號的異常行為偵測,例如當帳號在非常態時間大量下載檔案時觸發警示或封鎖。差別在於 AI 代理的行為速度更快、規模更大,因此更需要自動化且即時的應對機制。
對企業而言,這項機制提供了在擴大部署 AI 代理時的一層安全保障,有助於降低資安與法遵團隊對導入代理的疑慮。對資安產業而言,則代表 AI 代理的治理與監控正成為新的產品重點,其他資安與雲端業者也可能陸續推出類似功能。不過,業界也提醒,風險評估的準確度是關鍵,若誤判過多,可能影響代理的工作效率;若漏判,則仍可能讓惡意行為得逞。
整體而言,Microsoft 此舉反映出企業 AI 已從「能不能用」進入「如何安全地用」的階段。隨著代理承擔的任務越來越多,如何像管理員工一樣管理 AI,將成為企業資安的重要課題。