OpenAI詳解GPT-Red 以AI攻擊自家模型找出漏洞
2026.07.17
OpenAI揭露內部安全紅隊模型GPT-Red,主動攻擊自家模型以在漏洞觸及用戶前找出提示注入弱點。OpenAI表示,GPT-5.6 Sol面對GPT-Red直接提示注入時,攻擊成功率僅0.05%。
OpenAI詳細揭露了GPT-Red,這是一套內部打造的人工智慧系統,專門用來攻擊自家的模型,在漏洞觸及用戶之前,主動找出提示注入(prompt injection)的弱點。透過這套「以AI攻擊AI」的紅隊機制,OpenAI大幅提升了產品模型對提示注入的防禦能力,GPT-5.6 Sol面對GPT-Red直接提示注入時,攻擊成功率已降至僅0.05%。 紅隊(red teaming)是資安領域的重要…
