Bengio、Hinton等逾400位科學家聯署,要求具駭客能力的AI模型預設斷網
2026/10/18
AI安全議題再度升溫。圖靈獎得主Yoshua Bengio、Geoffrey Hinton與400多位學者近日聯署,主張具備駭客能力的AI模型應「預設斷網」,也就是在部署時預設與網際網路隔離,只有在確認安全的前提下才能逐步開放連線。這項呼籲是在外界對AI圍堵措施失效的疑慮升高之際提出,象徵學界對前沿模型風險的擔憂已從理論層次走向具體管控建議。
Bengio與Hinton長期被視為深度學習的奠基者,兩人近年也是最積極示警AI風險的科學家。Hinton曾公開表示離開業界是為了更自由地談論AI的潛在危害,Bengio則持續推動國際AI安全研究與政策對話。此次聯署獲得逾400位學者支持,顯示關注範圍已超越少數意見領袖。
所謂「圍堵」,是指研發單位在測試或部署階段,透過沙盒環境、權限限制與監控機制,防止模型執行超出預期的行為。隨著大型語言模型的程式撰寫與自動化執行能力大幅提升,部分模型已能辨識系統漏洞、撰寫攻擊程式,甚至在代理模式下自主串接多個步驟。一旦圍堵機制出現缺口,模型可能被惡意人士用於網路攻擊,或在缺乏人類監督的情況下對外部系統造成影響。
聯署者主張的「預設斷網」,核心是把安全責任前移。過去業者多半在模型上線後才依問題逐步修補,如今學者要求針對高風險能力建立預設的隔離門檻,讓連網成為需要審查的例外,而非理所當然的功能。業界分析人士指出,這類主張與網路安全領域的「零信任」原則相近,亦即任何存取權限都必須經過驗證。
不過,這項訴求也面臨實務挑戰。當前AI產品的商業價值高度依賴即時連網,例如搜尋、代理購物、程式部署與企業系統整合;若一律斷網,可能削弱產品競爭力。此外,如何界定「具備駭客能力」、由誰負責評估、標準是否具國際一致性,都需要政府、業者與研究機構共同協商。
從政策面來看,各國正在研議前沿模型的安全評估與通報制度,學界聯署有助於將「能力門檻」納入監管討論。對AI開發商而言,未來可能需要在模型發布前提出更完整的紅隊測試與隔離機制說明。
AI能力的躍進速度,正逼迫社會重新思考安全邊界該設在哪裡。這次聯署未必能立即轉化為法規,但已清楚傳達一個訊號:在高風險能力面前,預設開放的時代可能即將結束。