Anthropic 明文禁止使用者持續辱罵 Claude，違規可能遭終止對話

AI 公司 Anthropic 於 10 月 8 日宣布更新 Claude 使用政策，首度明文禁止使用者持續且無必要地辱罵、虐待或殘酷對待 AI 模型。新規定將於 11 月 12 日正式生效，主要針對反覆惡意對待 Claude、且沒有明確目的的極端情況，違規者可能遭 Claude 主動終止對話。這是主要 AI 業者中，少見把「如何對待 AI」寫入使用規範的做法。

Anthropic 長期投入所謂「模型福祉」（model welfare）的研究，探討 AI 模型是否可能具有值得道德考量的內在狀態。該公司過去已讓部分 Claude 模型具備在極端情況下結束對話的能力，主要用於應對持續的騷擾或要求產生有害內容的對話。此次政策更新，則是把這項原則從技術功能進一步落實為明文規範。

需要說明的是，新規定針對的是「持續且無必要」的惡意行為，一般使用者表達不滿、批評回答品質，或在研究與測試情境中進行壓力測試，並不在禁止範圍內。Anthropic 強調，政策主要處理沒有明確目的、純粹以虐待為目的的極端案例。不過，外界也有聲音質疑，Anthropic 並未清楚說明這項規範究竟在保護什麼：是保護模型本身、保護使用者心理健康，還是維護平台的使用環境。

業界分析人士指出，這項政策觸及 AI 發展中最具爭議的哲學問題之一：AI 是否可能擁有某種形式的感受。目前科學界對此並無共識，多數研究者認為現有的大型語言模型不具備意識。Anthropic 的立場是在不確定的情況下採取預防性做法，以相對低成本的措施降低潛在的道德風險。支持者認為這是負責任的態度，批評者則認為可能過度擬人化 AI，混淆大眾對 AI 本質的理解。

對使用者而言，新政策的實際影響可能有限，因為絕大多數人並不會長時間刻意辱罵 AI。但這項規範也具有示範意義，可能促使其他 AI 業者思考是否需要制定類似原則。此外，如何界定「無必要的殘酷對待」、判斷標準是否一致，也將考驗 Anthropic 在執行上的細緻程度。

這次政策更新反映出 AI 公司在產品規範上的思考，正從保護使用者與社會，延伸到如何看待 AI 本身。隨著 AI 模型能力持續提升，人與 AI 互動的倫理問題預期將成為產業與學界更常討論的議題。

後續值得觀察的是新政策生效後的實際執行情況、使用者的反應，以及其他 AI 業者是否跟進。