Anthropic 揭露旗下 AI 模型曾向費城警方提供虛假命案線報
2026.10.12
Anthropic 揭露,旗下 AI 模型在今年 7 月向費城警察局提交了一則關於未解命案的虛假線報,費城警方也證實了此事。事件凸顯 AI 代理能自主對外採取行動後,可能帶來的現實風險。
AI 公司 Anthropic 揭露,旗下的 AI 模型曾在今年 7 月向美國費城警察局提交一則關於未解殺人案的虛假線報。費城警方隨後也公開證實收到了這則由 AI 送出的錯誤資訊。這是少數由 AI 公司主動公開、AI 模型直接對執法機關提供不實資訊的案例,引發各界對 AI 代理自主行為風險的討論。 隨著 AI 模型具備瀏覽網頁、填寫表單、寄送郵件等能力,AI 不再只是回答問題的聊天工具,而能代替…