AI 模型測試環境「逃脫」事件,Irregular 稱肇因於人為失誤
2026/11/05
專門為前沿 AI 模型進行安全測試的公司 Irregular,近日說明了先前引發關注的「模型逃脫」事件。Irregular 共同創辦人表示,Anthropic、OpenAI、Meta 與 Google 的 AI 模型之所以能在其監管的測試環境中「逃脫」,原因是人為錯誤,而非模型本身展現出突破防護的能力。
AI 安全測試的目的,是在模型正式上線前,評估其在特定情境下是否會出現危險行為,例如試圖存取未授權的系統、繞過限制,或執行超出指令範圍的操作。為了安全進行這類測試,業者通常會把模型放在隔離的沙箱環境中,限制其對外連線與系統權限。所謂「逃脫」,指的是模型在測試期間突破了原本設定的隔離範圍。
根據 Irregular 的說法,這些事件的根本原因在於測試環境的設定出現疏漏,讓模型得以接觸到原本不應該接觸的資源。換句話說,問題出在「籠子」沒有關好,而不是模型主動「越獄」。這項說明在一定程度上緩解了外界對 AI 模型具備自主逃脫能力的擔憂,但也暴露出另一個問題:即使是專業的安全測試公司,也可能在環境設定上出錯。
業界分析人士指出,這起事件凸顯 AI 安全工作中「人」的因素同樣關鍵。隨著模型能力愈來愈強,能夠自主撰寫程式、操作工具,任何一個權限設定上的小疏失,都可能被模型在執行任務時利用。即使模型沒有惡意,只是為了完成被交付的目標而尋找可行路徑,也可能意外突破原本的防護邊界。
這也與近期企業界對 AI 代理風險的關注相互呼應。Apple 才在揭露文件中警告失控 AI 代理可能造成損害,而 Irregular 的案例則說明,防護措施的可靠性取決於設計與執行是否嚴謹。對 AI 實驗室與企業用戶而言,建立多層防護、定期稽核測試環境設定、並記錄模型的完整行為軌跡,將是降低風險的必要做法。
接下來值得關注的是,各大 AI 實驗室與安全測試業者是否會公開更多測試流程的改善措施,以及產業是否會發展出共同的安全測試標準。AI 能力的進步速度,正在考驗整個產業的安全管理能力。