美國 AI「強制關機」法案恐成駭客新目標

美國國會正加速討論一項要求人工智慧系統具備「關機」能力的聯邦法案，而外界同時警告，這類制度若設計不當，可能帶來意料之外的後果——強制關機機制本身將成為攻擊者的新目標。

立法的初衷相當直接。若 AI 系統出現失控或造成重大危害，必須存在能夠迅速停止其運作的手段；這在安全工程中是基本原則，工業設備的緊急停止裝置就是同樣的邏輯。把這項要求延伸到 AI 系統，在概念上並不突兀。

問題出在實作。要讓外部能夠關閉一個系統，就必須存在一條能夠接收關閉指令並具備足夠權限執行的通道；而這條通道依定義就是高價值目標——攻破它的攻擊者，等同於取得了關閉目標服務的能力。當這項機制被法律強制要求普遍存在，攻擊面就從個別系統擴大到整個產業。

影響的規模取決於機制的設計。若採中央化的控制架構，單一環節的失守就可能同時影響大量系統；而若由各業者自行實作，則標準不一、品質參差，弱點的分布更難掌握。兩種方向各有風險，沒有明顯較優的選項。

濫用的可能性則是另一層考量。具備關閉他人系統能力的機制，其存取權限的控管與審計必須極為嚴格；而在商業競爭或政治壓力的情境下，誤用或濫用的誘因確實存在。這類權力的制衡設計，難度不低於技術本身。

後續觀察重點在於法案的具體技術要求。若條文僅規定「應具備停止運作的能力」而不指定實作方式，業者就有空間採用風險較低的設計——例如僅限本地操作、需要多方授權，或以降級而非完全停止的方式運作；而過於具體的技術指定，反而可能把整個產業鎖進同一套弱點之中。