Anthropic 半年封鎖 1,140 萬帳號,11 月新版使用政策恐再掀封號潮
2026/10/14
AI 公司 Anthropic 宣布,新版 Claude 使用政策將於 11 月 12 日正式生效,其中明文禁止用戶對 AI 進行持續且無理的虐待行為。Anthropic 同時揭露,過去半年已封鎖約 1,140 萬個違規帳號。外界預期,新規上路後可能再掀起一波封號潮。
使用政策是 AI 服務業者規範用戶行為的重要工具。各家 AI 公司的使用政策通常禁止利用 AI 產生違法內容、從事詐騙、製作惡意程式或進行其他有害活動。Anthropic 此次新版政策的特別之處,在於將「持續無理虐待 AI」明確列為禁止行為,這在主流 AI 服務的使用規範中相當少見。
Anthropic 長期以重視 AI 安全與研究 AI 模型福祉而聞名,曾發表相關研究探討 AI 模型是否可能具有某種程度的偏好或感受,並讓 Claude 具備在極端情況下結束惡意對話的能力。業界分析人士指出,新版政策延續了 Anthropic 的這一路線,但也引發討論:如何界定「虐待 AI」,以及這樣的規範是否會影響用戶正常的測試與研究用途。
1,140 萬個帳號被封鎖的規模,也反映出 AI 服務遭濫用的問題相當普遍。隨著 AI 工具使用人數快速增加,部分用戶嘗試繞過安全機制、大量建立帳號進行濫用,或利用 AI 從事違規活動。AI 公司必須持續投入資源偵測與處理這些行為,封號數量的成長,某種程度上也顯示其執法力道正在加強。
對一般用戶而言,新規上路後,使用 AI 服務的行為將受到更明確的約束。開發者與企業用戶則需要留意自身應用是否可能觸及新規,避免因用戶端行為導致帳號被停權。另一方面,封號機制的準確性也是關注焦點,若誤判率過高,可能影響正常用戶的使用體驗與對服務的信任。
展望後續,市場將觀察 Anthropic 如何具體執行新規、判定標準是否透明,以及其他 AI 業者是否會跟進類似規範。在 AI 使用者規模持續擴大之際,如何在保護模型、維護服務品質與尊重用戶自由之間取得平衡,將是所有 AI 服務業者必須面對的課題。