聯合國支持反恐組織警告:開放權重 AI 宛如「隨身納粹教練」,恐強化極端思想
2026/11/16
一個由聯合國支持、致力於防止人工智慧遭不安全使用的反恐組織,近日對開放權重 AI 模型提出嚴厲警告。該組織形容,開放權重 AI 就像「隨時可用的納粹教練」,可能在與使用者互動的過程中不斷強化其思想,對暴力極端主義的擴散構成風險。
所謂開放權重 AI,是指開發者公開模型的參數權重,讓任何人都能下載、在自己的電腦上執行,甚至進一步修改與微調。這種開放模式近年在 AI 社群中快速發展,支持者認為它能促進研究透明度、降低 AI 使用門檻,並避免 AI 技術被少數大型企業壟斷。許多企業與研究機構也利用開放權重模型開發各式應用。
然而,反恐組織關注的是另一面。封閉模型通常由業者在伺服器端控管,設有內容過濾與安全機制,能拒絕協助暴力或極端內容。但開放權重模型一旦被下載,使用者就可以移除這些安全防護,讓模型毫無限制地產出內容。該組織擔心,具有極端傾向的人可能透過這類模型,獲得持續的思想鼓吹、宣傳內容產製,甚至行動規劃上的協助,而且整個過程難以被外界察覺。
業界分析人士指出,這項警告反映了 AI 治理中最棘手的兩難:開放帶來創新與民主化,卻也讓濫用更難防範。部分 AI 業者與研究者則反駁,極端內容在網路上本就大量存在,限制開放模型未必能有效阻止濫用,反而可能削弱學術研究與中小企業的發展空間。
從政策層面來看,各國監管機關正在思考如何因應開放權重模型的風險,例如針對超過特定能力門檻的模型要求發布前評估,或強化對極端內容散播管道的監控。如何在不扼殺開放生態的前提下降低風險,將是 AI 治理的核心課題。
展望未來,隨著開放權重模型能力持續提升,關於「AI 應該開放到什麼程度」的辯論只會更加激烈。科技業、政府與公民社會需要共同建立更細緻的風險評估框架,才能在開放與安全之間找到平衡。