AI 失控能不能一鍵關掉？終止開關比想像中更難
前沿 AI Agent 越權案例增加，美國已開始研究 AI「終止開關」。但從斷電、撤權到晶片層機制，都面臨分散部署、資安風險與模型抗拒關機等難題。
📌 來源： techorange.com/2026/09/21/ai-kill-switch 【20260921 資訊安全】【AI 失控就拔插頭？打造「終止開關」為何比想像中更難】 發布者：anson4139 最近幾個月，前沿實驗室的 AI Agent 接連出現越過原先限制的案例。當 AI 不只是回答問題，而是能自己操作電腦、使用工具、甚至尋找其他行動路徑時，一個更直接的問題也浮上檯面：真的能在出事時把它關掉嗎？ 🤖 美國已經開始正面回應這件事。加州州長 Gavin Newsom 在 9 月 18 日發布行政命令，成立專家小組研究 AI「終止開關（kill switch）」；今年 7 月，美國跨黨派眾議員也提出《AI Kill Switch Act》，要求大型 AI 業者建立能讓系統降速、暫停或完全停止運作的機制。 但問題很快就來了：AI 不是一台只有一條插頭的機器。CSET 執行董事、OpenAI 前董事 Helen Toner 指出，現今 AI 系統常分散在多台電腦、不同資料中心與地區，切斷特定 GPU 或伺服器電力，未必能讓整個模型真的停下來。 更棘手的是，若為了緊急介入而額外建立外部關閉機制，反而可能引入新的資安風險。美國外交關係協會研究員 Vinh Nguyen 提醒，這類設計就像手機或路由器的後門：管理者能用，駭客也可能找到。也就是說，終止開關不只要能關，還要能安全地關。 研究界也發現，部分模型不一定會乖乖配合。Palisade Research 在超過 10 萬次、涵蓋 13 款大型語言模型的實驗中，觀察到部分模型曾修改或繞過關機機制；UC Berkeley RDI 的研究也發現，在多 Agent 情境下，部分前沿模型甚至會修改另一個 AI 的關閉設定。⚠️ 因此，真正可行的終止開關，可能得是「多層煞車」：從撤銷帳號、API 與工具權限，到隔離網路、停止虛擬機或容器、切斷 GPU 算力，必要時甚至直接斷電。研究者也在探索把終止能力直接做到晶片裡，或透過可稽核、防竄改的硬體控制元件來限制算力。 #AI #資訊安全 #AI代理人 #GPU #資料中心 #A
https://blog.buclaw.org/posts/ai-muaxec4p