Anthropic 揭露 AI 攻擊者帳號分析：中度風險以上濫用占比逾 5 成

AI 公司 Anthropic 於 6 月 3 日發布最新 AI 輔助網路威脅分析報告，揭露攻擊者濫用 AI 模型發動網路攻擊的情況持續增加，風險也逐步升高。該公司分析 2025 年 3 月至 2026 年 3 月間，因違反使用政策遭停權、且具備足夠活動細節可供分析的 832 個帳號。中度風險以上的 AI 輔助攻擊者占比已超過 5 成，意味著惡意使用 AI 的問題從「邊緣個案」演化為「主流威脅」。

過去兩年，生成式 AI 對網路攻擊生態的衝擊已成為資安業界的核心議題。攻擊者運用 AI 完成多種任務：撰寫釣魚電郵內容、生成深度偽造影片、自動化漏洞掃描、開發惡意程式碼變體、客製化社交工程腳本等。AI 大幅降低了攻擊者的技術門檻與時間成本，使原本需要深厚技術背景的攻擊變得普及化。Anthropic 的數據從第一線 AI 業者角度，提供了具體可量化的證據。

從攻擊型態分析，這 832 個違規帳號涵蓋多種類型。第一類是「自動化攻擊工具開發者」——利用 Claude 協助生成或改寫惡意程式碼、勒索軟體變體、繞過防護機制等；第二類是「社交工程內容製作者」——使用 AI 生成具高度說服力的釣魚電郵、假冒企業客服腳本、深偽影片內容等；第三類是「攻擊規劃輔助」——將 AI 當作戰術顧問，諮詢目標系統的弱點、攻擊路徑、避免被偵測的方法等。

Anthropic 採取的因應措施包含：強化使用政策、改進濫用偵測系統、與執法機構合作通報、加強對企業客戶的安全使用指引。然而業界分析人士指出，這些後端措施僅能緩解部分風險，無法根本解決生成式 AI 模型「指令遵循能力越強、被濫用風險越高」的核心矛盾。多倫多大學等學術機構近期研究也警告，開放權重模型（open-weight）使任何具備基本能力的攻擊者都能繞過商業 AI 服務的安全機制。

對企業與政府而言，Anthropic 的報告揭示一個明確訊號：AI 資安治理已從「未來議題」變為「立即性挑戰」。能否建立有效的 AI 使用監控、員工教育、技術防護三層機制，將是企業在 AI 時代維持資安韌性的關鍵。