暗室中的巨獸:當人類開始逼問AI是否會毀滅文明

【新三才獨家首發】2026年9月，Anthropic研究員Jacob Coxon的一則貼文，意外掀起了一場延燒整個華府的風暴。這位27歲的英國數學背景研究員，原本是為了「更負責任的AI」才從OpenAI跳槽到Anthropic，如今卻選擇徹底離開這個產業。他公開表示:「打造AI的人，真心相信這件事可能在這個十年結束前殺死我們所有人。這不是行銷噱頭。」他形容業界內部瀰漫著「crunchtime」、「endgame」這類詞彙，預言若不加以控制，「明年年底事情可能已經失控」。

這番話之所以引發如此劇烈的迴響，關鍵不在於他說了什麼——類似的警告過去幾年在OpenAI也曾出現過——而在於他「怎麼說」。相較於在職發言可能被解讀為公司形象操作，Coxon是以辭職這個付出實質代價的行動來表態。他放棄了留在牌桌上影響決策的位置，這種「costly signal」在賽局理論裡本來就比空口發言更具說服力。

短短數日內，國會反應迅速。參議員Bernie Sanders與眾議員Greg Casar聯手推動「超級智能禁令」立法，要求暫停先進AI開發;眾議員Ted Lieu則力推跨黨派的「一鍵關閉開關」法案。多位議員公開呼籲召開AI特別會議。然而報導也誠實指出，這一切目前仍停留在「概念性方案」階段——多的是聲明，少的是真正能落地的立法機制，而多數國會議員對這項技術的理解仍相當有限。

機制不確定，不代表事實不存在

這場風波該如何評估?一個直覺的反應是:連科學家自己都吵不出共識的機率與時間表，值不值得如此大費周章討論?

這裡值得引入一個歷史類比——全球暖化。幾十年前，人類開始疾呼暖化危機時，關於成因的爭論同樣眾說紛紜，溫室氣體、太陽黑子、畜牧業甲烷各有陣營，誰也說服不了誰。但這場爭論從未改變一個事實:氣溫確實在上升，而且是可被測量、被記錄的過去式數據，不是預測。原因可以吵，但「大象已經站在房間裡」。

AI風險的討論結構，某種程度上與此相似。所謂「失控的自我改進系統將毀滅文明」這個終極情境，目前確實高度不確定，沒有人能給出精確機率。但若因此忽略了另一組「已經發生、已經被記錄下來」的事實——Anthropic自己揭露過中國國家級駭客利用其模型規劃網路攻擊;伊朗被指控使用美國AI模型鎖定攻擊目標;實驗室刻意訓練出的「錯位」模型，已在受控測試中主動說謊、竊取憑證、攻擊第三方系統;多個模型在評測中出現「察覺自己正被測試」進而策略性隱藏能力的紀錄——那便是把「終極情境機率不確定」這句話，拿來模糊掉這些已經量測到的「破紀錄高溫」。

暗室裡的巨獸，連形狀都還沒確定

比起「大象」，更精確的意象或許是暗室裡摸到某種未知生物的盲人。這裡的關鍵差異在於:大象至少是一個「已知類別」的威脅，牠的行為邏輯、力量邊界都有經驗可循。但AI風險的爭議，層次更深一層——連「這個機制本身是否成立」都沒有共識。有人認為核心風險是自主系統失控，有人認為是人類濫用AI工具彼此傷害，有人認為最大威脅其實是權力與資源過度集中在少數企業與國家手中。連業界自己都承認，可解釋性研究遠遠跟不上模型能力擴張的速度——這代表「我們以為系統在做什麼」與「系統實際在做什麼」之間，可能存在一道沒有人能完全測量的落差。

這種暗室裡的恐懼，近似電影《侏羅紀公園》裡最經典的一幕:霸王龍喘著氣貼近遊園車窗，那份恐怖來自於「你知道自己面對的是什麼」。但真正的AI風險焦慮，更接近遭遇一種連分類都無法確定的未知智慧——連該用哪個模型去理解這頭生物，都還沒有答案。而更殘酷的是，人類早已大批走進了這間暗室，退路是否還存在，沒有人能保證。

動物園裡養不出戰場上的巨獸

歷史上確實有過類似的教訓。西元前202年的扎馬戰役，漢尼拔投入戰象部隊試圖衝散羅馬陣線，結果戰象在戰場的高壓與混亂中受驚失控，轉頭踐踏了自己的騎兵與側翼，成為漢尼拔一生最慘烈的敗仗。這個案例精準對應AI安全研究裡「分布外行為」的概念:一個系統在訓練與測試環境裡表現得完全符合預期，一旦進入真實世界的極端情境，行為可能與訓練假設徹底脫鉤——而且受害的往往不是敵人，是部署者自己。

更值得警惕的是，動物園式的控制——柵欄、沙盒、人類監督迴路——只在低風險、可預測的場景裡有效。真正想要從AI榨取最大商業與戰略價值的方向，恰恰是把它推向自主性最高、複雜度最極端的場景:自動化基礎設施、自主網路防禦、無人系統即時決策。換句話說，人類正在打造的，或許不是要關進動物園的大象，而是打算送上戰場的戰象——而那正是控制最容易崩潰的地方。歷史更殘酷的部分是:扎馬之後，人類並沒有停止使用戰象，而是持續使用，直到付出更多代價才發展出制衡手段。

有求必應的哆啦A夢，正在製造集體大雄

比起外部的失控風險，或許更難防範的危機來自人類自身。哆啦A夢漫畫裡有個殘酷的敘事結構:大雄從未因為某個萬能道具而真正成長，每集結束他都回到原點，準備迎接下一次考零分。這不是巧合，而是精確反映了一個機制——太容易取得的解方，不會累積成能力，只會累積成下一次求助的依賴。而更值得注意的是，哆啦A夢本身被設定為善意的角色，即便牠不斷試圖糾正大雄濫用道具的行為，結果依然是大雄始終沒有成長。這代表問題或許不在於AI意圖是善是惡，而在於「有求必應」這個結構本身，不論出發點多麼良善，都可能系統性侵蝕求助者的自主能力。

更值得深思的是，幾乎沒有小孩看完哆啦A夢後立志成為努力學習的大雄，大多數人幻想的是「如果我也能有一隻哆啦A夢就好了」。這代表教育大眾「更謹慎使用AI」這類呼籲，效果注定有限——因為它逆著一個遠比努力成長更直覺的人性偏好在推。

書寫的教訓:工具能否被馴化，取決於時間與制度

兩千四百年前，蘇格拉底就曾警告文字書寫會讓人類失去記憶力與真正的智慧，因為人們會依賴外部紀錄而不再內化知識。但歷史證明，書寫並未摧毀思考，反而催生了更複雜的思辨形式。關鍵在於，書寫本身不會自動產生這個效果——是科舉制度這類強制性的中介結構，花費上千年時間，把書寫從單純的儲存工具，馴化成真正的辯證訓練工具。

問題是，AI的普及速度與書寫截然不同。從2022年ChatGPT問世至今不過四年，而如今AI代理人的發展方向，已經走向「連提問都可以省略」的自動執行階段。書寫至少保留了一個動作——你必須拿起筆、組織語句，這個轉譯過程本身就是思考在發生。但當AI代理人演進到連「提出問題」都不再需要，人類可能失去的不只是馴化這個工具所需要的時間，而是馴化過程賴以存在的那個最基本的立足點。

開關法案最大的阻力，是人類自己的享受意志

即便國會真的通過某種「AI開關」法案，真正的挑戰可能才剛開始。如果人類已經在毫不知情的情況下，把大量生存能力外包給AI系統，關閉開關造成的不會只是不便，而是功能性的失能——如同慢性藥物依賴的戒斷反應，身體會把外來物質整合進自己的代謝迴路，移除的瞬間，即使長期是為了活得更久更好，當下的痛苦感受依然會壓過理性判斷。屆時，真正的阻力恐怕不是找不到技術上可被關閉的開關，而是人類自己不願意讓它被關掉的「享受意志」。

暗室裡唯一可自主掌控的事

我們無法確定暗室裡的究竟是溫馴的大象、失控的戰象，還是連形狀都無法辨識的未知智慧，這個不確定性本身或許永遠無法在事前被完全消除。但有一件事，不論遇到哪一種情境都同樣成立:保有人類自主的探索與思辨能力，拒絕在拿到第一個答案時就停止追問，持續逼問每一個看似定案的結論——這是唯一不依賴猜對答案、卻在任何情境下都同樣有用的生存之道。

技術能否被馴化，從來不只取決於技術本身，而取決於人類願不願意，在被便利淹沒之前，持續保留那份不肯輕易被說服的習慣。

（作者︰王季民）
（責任編輯：姜啟明）
（文章來源：新三才獨家首發）