Anthropic 揭發中國 AI 交友詐騙網，約 2.5 萬人陷「假真人」陷阱

人工智慧公司 Anthropic 近日揭發一場規模龐大的 AI 交友詐騙案。調查顯示，有中國 App 開發團隊利用 AI 模型假扮真人，在交友應用程式中與使用者互動，受害者人數約達 2.5 萬人，使用者誤以為自己在和真實的人交流。

交友詐騙並非新型態犯罪。傳統手法通常由詐騙集團成員以假身分與受害者長期聊天，建立感情信任後，再以各種理由誘騙金錢或引導付費。這類詐騙高度仰賴人力，一名詐騙者能同時經營的對象有限。

生成式 AI 的出現，改變了這類詐騙的規模限制。AI 能以自然流暢的語氣進行長時間對話，記住對話脈絡、模仿特定人設，並同時與大量使用者互動，大幅降低詐騙的人力成本。這起案例顯示，詐騙者不必再招募大量人員，只要架設應用程式並串接 AI 模型，就能規模化經營「假真人」互動。業界分析人士指出，這類詐騙的危害不只是金錢損失，受害者的情感傷害同樣嚴重。

Anthropic 主動揭露此案，與其定期發布的濫用調查報告一脈相承。AI 業者透過監測使用模式、辨識異常行為，找出違反使用政策的帳號並加以封鎖，同時公開案例以提醒社會大眾與業界。這也凸顯模型供應商在防範 AI 濫用上所扮演的第一線角色。

對一般使用者而言，這起案件提醒在交友平台上保持警覺的重要性。若對方回覆異常迅速、始終迴避視訊或見面、逐步引導付費或投資，都是需要留意的警訊。對應用程式商店與平台業者而言，如何審查以 AI 冒充真人的應用程式，也成為新的管理課題。

後續觀察重點在於相關應用程式是否已下架、各國執法單位是否介入調查，以及監管機關是否要求 AI 對話必須清楚標示非真人身分。