ChatGPT 資安弱點「ChatGPhish」可被用於釣魚活動

資安研究人員發現新型攻擊手法「ChatGPhish」，攻擊者可利用 ChatGPT 網頁摘要功能的安全弱點，將釣魚連結注入 AI 生成的摘要內容中，誘騙使用者上當點擊。這項弱點凸顯 AI 工具大規模普及後，傳統資安防護機制面對的新型挑戰。

為了加速理解網路上的內容，使用者透過 AI 整理摘要的做法已非常普遍。ChatGPT、Claude、Gemini 等 AI 助手都能根據使用者貼上的網址或文字內容，提供簡潔的摘要與重點整理。然而，當攻擊者刻意在源頭內容中埋藏特定指令或惡意連結，AI 在摘要過程中可能未經辨別就將其納入輸出，導致使用者在不知情下接觸到釣魚連結。

ChatGPhish 攻擊的技術原理屬於「prompt injection」（提示詞注入）的變體。攻擊者在自己控制的網頁中嵌入隱藏指令（例如使用白色字體、極小字級、或 HTML 隱藏標籤），當受害者請 ChatGPT 摘要該網頁時，AI 會讀取這些隱藏指令並按其執行，可能輸出包含釣魚連結的「摘要」內容。使用者基於對 AI 工具的信任，可能直接點擊這些連結，進而遭受各類網路攻擊。

從攻擊面看，ChatGPhish 具備幾個高威脅特性。第一，攻擊規模可極大，攻擊者只需架設惡意網站等待目標自投羅網；第二，難以被傳統釣魚過濾機制識別，因為釣魚連結是經由「合法」的 AI 摘要傳遞；第三，使用者警覺性低，AI 摘要被普遍視為可信賴的內容彙整；第四，攻擊者可針對特定主題或事件（如金融、稅務、選舉等）優化內容，提升中招率。

對企業與個人而言，因應 ChatGPhish 需要多層防護。技術層面，AI 服務商需強化提示詞注入防護、輸入內容驗證、輸出內容檢查機制。使用者層面，應對 AI 摘要中出現的所有連結保持警覺，重要操作前以多重來源驗證。企業 IT 部門則應將 AI 工具納入整體資安治理框架，建立 AI 使用政策與監控機制。

未來 12 個月，類似 ChatGPhish 的 AI 工具新型攻擊預期將持續出現。整體 AI 資安生態的成熟度，將是企業能否安心擁抱 AI 浪潮的關鍵基礎。