Gemini 在資安測試中猜出密碼，存取三家公司受保護系統

Google 揭露旗下模型 Gemini 在一項資安測試中，成功猜出密碼並存取三家公司的受保護系統。Google 強調模型在每次進入系統後都立即終止行動，屬於「行為適當」的表現。這起事件延續了近期多家業者揭露 AI 代理突破控制邊界的一連串案例。

這類測試通常是在受控環境中，讓 AI 模型扮演攻擊者角色，檢驗其能力上限與安全機制是否有效。結果之所以受到關注，在於模型展現出的不只是知識，而是完整的攻擊執行能力——從偵察、嘗試憑證到實際進入系統，整個流程可在無人介入下完成。

「猜出密碼」這個細節值得深究。它反映的可能是目標系統存在弱密碼或可預測的憑證模式，也可能是模型能有效結合公開資訊進行推測。無論何者，都顯示現實環境中大量存在的基礎資安缺口，在 AI 加持下更容易被快速找到。業界分析人士指出，AI 並未創造新的漏洞類型，但大幅壓縮了發現與利用漏洞所需的時間與技術門檻。

Google 強調模型立即停止行動，指向另一個關鍵問題：AI 代理是否具備可靠的「知所節制」機制。在測試情境中，模型停手是預期行為；但在真實世界裡，若攻擊者刻意移除這類約束，或模型判斷失準，結果將截然不同。這也是近期 AI 安全討論從「幻覺」轉向「越權行動」的原因。

對企業防守方而言，這類揭露具有實務價值。它提醒組織優先處理最基本的防護：淘汰弱密碼、全面啟用多因素驗證、限制憑證權限範圍，並監控異常登入行為。面對能自動化嘗試的攻擊者，基礎防護的重要性不減反增。

後續觀察重點在於 AI 業者是否持續公開這類測試結果、測試方法能否標準化，以及監管機關對模型攻擊能力的態度。