研究人員揭 ChatGPT 提示注入繞過防護漏洞 OpenAI 已完成修補

AI 模型的安全防護機制再度受到考驗。資安研究人員 zer0dac 揭露 ChatGPT 一項安全防護機制的繞過漏洞,攻擊者可透過提示注入（Prompt Injection）手法,以誤刪使用者上傳檔案為由,誘使 AI 模型暴露資料存取路徑,再結合路徑遍歷（Path Traversal）方式,繞過存取路徑限制,取得額外資料。目前 OpenAI 已修補此問題。

提示注入是針對大型語言模型的一種典型攻擊手法。它透過精心設計的輸入指令,誘導 AI 模型執行非預期的行為或洩露不該洩露的資訊。由於 AI 模型會依據輸入的提示來理解與回應,若攻擊者能巧妙地在提示中植入惡意意圖,便有機會操縱模型的行為,繞過原本的安全限制。此次揭露的漏洞,正是提示注入攻擊的一個具體案例。

這起攻擊的手法設計頗具巧思。攻擊者先以「誤刪上傳檔案」這類看似合理的情境為誘因,誘使 AI 模型在回應過程中暴露出資料的存取路徑。取得路徑資訊後,再結合路徑遍歷技術——一種透過操縱檔案路徑來存取原本受限目錄或檔案的手法——繞過存取限制,進而取得額外的資料。這種將提示注入與路徑遍歷結合的複合式攻擊,凸顯了 AI 應用在資料存取控制上的潛在弱點。

從安全角度看,此漏洞暴露出 AI 模型在處理檔案與資料存取時的風險。當 AI 被賦予存取、管理使用者上傳檔案的能力,如何確保其嚴格遵守存取權限、不被惡意提示誘導而洩露敏感路徑或資料,成為重要的安全課題。這也反映出 AI 應用的安全防護,不僅要防範傳統的技術漏洞,更需應對提示注入這類針對 AI 特性的新型攻擊。

值得肯定的是,OpenAI 已針對此問題完成修補,顯示業者對 AI 安全漏洞的回應機制。透過研究人員的揭露與業者的即時修補,這類漏洞得以在被大規模惡意利用前獲得處理,體現了資安社群與 AI 業者協作的價值。

整體而言,這起 ChatGPT 提示注入繞過漏洞,再次凸顯了 AI 應用安全的複雜性與重要性。隨著 AI 模型被賦予越來越多的能力與存取權限,防範提示注入、路徑遍歷等攻擊手法,將是 AI 安全的長期課題。這也提醒 AI 業者需持續強化模型的安全防護,並建立健全的漏洞回報與修補機制,以確保使用者資料的安全。