沒有任何單一實驗室能獨力解決的問題
等你讀到這篇導讀，你已經一層一層看過一家實驗室能怎麼努力讓自己的模型安全：用 RLHF 塑造它的行為、讀它的內部、用評測與紅隊測試它，還有寫下那份說明「它會與不會部署什麼」的負責任擴展政策。而坐在這一切之上的，是一個令人不舒服的事實。就算一家實驗室把上述每一件事都做得完美，它光憑自己，也無法讓世界安全——因為它不是唯一的實驗室，而其他實驗室只對自己的安全政策負責，不對任何人的。這最後一篇導讀，談的就是這一層：問題裡那個完全不屬於技術的部分，以及那個讓「一個此生都不會去訓練前沿模型的人——很可能就是你——」依然能舉足輕重的部分。
想像三支車隊在一條隧道裡，朝著盡頭那份等著的獎品競速。每個駕駛都寧可在看不見的彎道前放慢、看清路況——但放慢就意味著輸，而輸就意味著獎品、連同方向盤，都歸給那個願意盲開過彎的人。於是每個人都盲開過彎，不是因為哪個駕駛天性魯莽，而是因為這場競賽的「結構」在懲罰謹慎。這就是 AI 安全問題在「整個世界」這個層級上的形狀。任何一支車隊再怎麼小心翼翼地開，都改變不了這場競賽本身的形狀——而這個形狀，正是本篇要談的。
這就是為什麼這個領域有一整套活在「任何單一模型之上」的詞彙——AI 治理、算力治理，以及本篇要花最多篇幅的那個：國際協調——讓不同的國家與實驗室「一起行動」，而不是各拉各的。我們會依序走過：為什麼一場競賽讓所有人都更不安全、協調在實務上究竟是什麼意思、過去兩年裡真實發生的嘗試、人們據以推理的歷史類比，最後是一個人能做什麼。一路上，請握著這個領域誠實的不確定：整個這一層到底做不做得起來，是 AI 安全裡最有爭議的問題之一，我們不會假裝不是。
為什麼一場競賽讓所有人都更不安全
為「隧道」所描繪的那件事下個定義。競賽動態指的是：當好幾個行動者競相快速建造並部署強大的 AI 時，這場競爭本身，會推著他們每一個人在安全上花得比「若是獨自一人時」更少。這背後的邏輯是一個集體行動的陷阱。安全是有代價的——姑且叫它安全稅：多花的那幾個月測試、你選擇不上線的能力、你等著做的外部評測。如果競爭對手跳過這筆稅，他們就更早上線、搶下市場與資金、訂下規範。於是，就連一個真心在乎安全的行動者，也面對一股殘酷的誘因去削減它——不是因為他們不再在乎，而是因為「單方面地在乎」，只會把領先位置拱手讓給那個更不在乎的人。
OTHER LAB
invest safety skip safety
+----------------+----------------+
invest safety | both safe, | you slow, |
(this lab) | both slower | they ship 1st |
| = GOOD | = you lose |
+----------------+----------------+
skip safety | you ship 1st, | both fast, |
(this lab) | they lose | both risky |
| | = BAD |
+----------------+----------------+
Whatever the other lab does, each lab's tempting move is "skip".
So with no coordination both skip -- and everyone is worse off
than if they had both invested. That gap is what coordination
tries to close.兩條誠實的提醒，能讓這個說法不致硬化成口號。第一，那張矩陣是漫畫：真實的實驗室並不是一場一次性賽局裡的相同玩家；名聲、法律責任與監管都會改變報酬，而一家建立了認真安全品牌的實驗室，可能會發現安全是「有利可圖」的，而不純粹是一筆稅。第二——這點很要緊——不是所有人都同意「競賽」是主導力量。有人主張：一個明確、負責、且舒舒服服領先的領跑者，比一群擠成一團的對手更安全，因為領跑者付得起安全稅；按這個看法，把領跑者拖慢、好讓別人追上，反而可能讓事情更糟。競爭究竟主要是一場「逐底競爭」，還是有時是一場「逐頂競爭」，本身就有爭議。把這個陷阱當成一個嚴肅的風險，而不是一條已被證明的定律。
在往下走之前的一則平衡提醒。競賽動態是一個「結構性論證」，不是一項指控，而且它的作用不只一個方向。那股可能侵蝕安全的競爭，同時也驅動著「替安全團隊、評測與可解釋性研究買單」的投資。受過教育的讀法不是「競爭是邪惡的」，而是「競爭塑造誘因，而好的結果需要把那些誘因引導好」——而這，正是協調想做的事。
「協調」究竟是什麼意思
「協調」這個詞讓人害怕，因為他們聽成了「一個世界政府」。它完全不是那個意思。協調是一道光譜，一架梯子，底端非常弱、非常容易，頂端非常強、非常困難，而幾乎所有真實的動作，都發生在較低的那幾階。這架梯子的重點在於「以可接受的代價換取槓桿」：你爬得愈高，它就愈能真正約束行為，但要讓所有人點頭就愈難、強制執行的代價也愈大。今天存在的東西，多半靠近底端。
- 共享的語言與資訊。對「前沿模型」的共同定義、共享的事故通報、公開的模型卡與安全框架。它本身很弱，但沒有它，更高的每一階都運作不起來。
- 自願承諾。實驗室公開承諾去做（或不做）某些特定的事——首爾的「前沿 AI 安全承諾」是最清楚的例子。它只靠名聲約束，但名聲也不是無物。
- 標準與評測。共同的安全評測、共享的測試方法，以及能查核實驗室說法、而不是只聽它一面之詞的獨立評測者。
- 國家層級的監管。在單一管轄區內有約束力的法律——歐盟《人工智慧法案》、行政命令、國家層級的通報規定。有真正的牙齒，但只在一組國界之內。
- 國際協議。從「表達共同關切」的不具約束力宣言，一路上到（原則上）帶有查核與強制執行的條約。最頂那一階，在核武上是存在的；至於 AI，至今還沒有任何「具約束力且可查核」的東西。
如果你想知道為什麼這架梯子裡的某一階受到這麼多關注，看看「強制執行」這個難題。條約只有在你能「查核」時才咬得住，而軟體幾乎無法查核——權重不過是一堆數字，可複製、可藏匿，而演算法是一個想法。但那些模型賴以訓練的「硬體」，這些性質一個都沒有。最先進的 AI 晶片，來自一條驚人地集中的供應鏈（晶片設計、製造、以及「造機器的機器」上，各只有寥寥數家公司），一次大型的訓練運行在物理上是龐大的、極耗電的、昂貴的，而晶片是你能清點、能定位、能管控的「物件」。這就是為什麼算力治理是協調已經握有真正槓桿的那一個地方：對先進晶片的出口管制，是一件正在運作、活生生的工具，而「晶片內建」的查核與算力計量之所以是熱門研究，恰恰是因為算力是這整個系統裡你真能加裝水錶的那個罕見部分。
另一根支柱是「機構」。從 2023 年底的英國開始，好幾國政府建起了 AI 安全研究所——擁有技術人員、能親自測試前沿模型的公部門機構，而不是把實驗室的行銷話術照單全收。一個國家級的 AI 安全研究所，能跑危險能力評測、在發布前對模型進行紅隊測試，並把發現餵回監管裡。把這些研究所串成一個網路，是一種讓「評測能跨國攜帶」的嘗試——好讓一國做的測試，在另一國也算數；而這，正是任何未來協議都得在其上運轉的、安靜的機械裝置。
一個實例：過去兩年裡真實發生的協調
這不是假設；在 2023 到 2025 年之間，發生的事多得驚人。2023 年 11 月，英國在布萊切利園（Bletchley Park）——二戰時的破密基地——主辦了首屆全球 AI 安全峰會，並產出了《布萊切利宣言》，由大約二十八個國家加上歐盟簽署。它的意義，與其說在於它讓誰承諾去做什麼（具體上很少），不如說在於是「誰」點了頭：美國與中國都在一份聲明上署了名，承認前沿 AI 帶有可能是災難性的風險、需要國際關注。讓這兩個政府在任何事情上簽到同一頁，在幾年前聽起來還像是天真。
六個月後，在首爾舉行的後續峰會產出了《前沿 AI 安全承諾》：十六家公司——包括來自美國、英國、中國與阿聯的主要實驗室——自願承諾公布安全框架，界定風險門檻、以及一旦模型跨過門檻時它們會怎麼做。如果這聽起來很耳熟，那是應該的：它本質上就是上一篇導讀裡的負責任擴展政策這個想法，連同它的若—則承諾，從一家公司被抬上了一個半國際的舞台。愈來愈多的國家也正在組裝上文所說的那個 AI 安全研究所網路，好讓評測與方法能被共享，而不是每一國都從零重建一遍。
還有兩塊拼圖把這幅圖補齊。《國際 AI 安全報告》由深度學習先驅 Yoshua Bengio 主持、由大約三十個國家加上聯合國、歐盟、OECD 等機構支持，在 2025 年發布了首份完整版本。它是刻意對標氣候領域 IPCC 的回聲：不是一項政策，而是一個共享的科學基線，好讓論辯能從共同的證據出發，而不是從各人最愛的軼事出發。在峰會旁邊，坐著真正有強制力的工具：歐盟《人工智慧法案》（2024 年通過、依風險分級、分數年逐步生效）在歐洲境內是具約束力的法律，而美國對先進晶片的出口管制，是此刻正在真實世界裡運作的算力治理。
歷史上的類比——以及每一個會在哪裡破功
我們以前協調過危險的技術，而那些前例，正是認真的人據以推理「AI 協調能不能成」的方式。每一個類比都很有啟發——而每一個的啟發，恰恰就在它破功之處。這裡的紀律，是「在同一口氣裡」既取走教訓、也看見裂縫，因為「記了一半的類比」，正是自信而錯誤的結論誕生的方式。
令人振奮的那個，是 1987 年的《蒙特婁議定書》，它逐步淘汰了破壞臭氧層的化學物質，是環境協調的偉大成功故事。它為什麼成了？危害狹窄而可量測、只牽涉寥寥幾種化學物質、可行的替代品存在，而且成本效益的帳很清楚。AI 在每一點上都讓這個類比破功：所謂「危害」是瀰散而有爭議的，而不是天上一個可量測的洞；這項技術是通用的、在經濟上難以抗拒的，而不是一種利基的冷媒；而且沒有一個乾淨的替代品可供切換。核軍備管制是更難、也更貼切的前例——它教的是「查核」這一課。《不擴散條約》、國際原子能總署與禁試條約之所以有真正的牙齒，是因為濃縮會留下物理上、可偵測的痕跡：稽查員能查核。AI 裡最接近「可裂變物質」的對應物是算力，這正是為什麼算力是那個活的槓桿——但權重與演算法是軟體，可複製、可藏匿，是鈾永遠做不到的方式。
兩個警世的前例把它補完。1972 年的《生物武器公約》禁掉了一整類武器，卻幾乎是在沒有任何查核機制的情況下寫成的，而它被普遍評為「弱」，原因恰恰就在這裡——一紙你無法查核的條約，比較接近一個承諾，而不是一個約束。而 1975 年的阿西洛馬會議——生物學家在那裡自願暫停、自我規範「重組 DNA」這項可怕的新技術——是樂觀者的最愛：證明一個研究社群能及早、負責地自我治理（2017 年的「阿西洛馬 AI 原則」刻意借用了這個名字）。貫穿這四者的那條線又鈍又有用：協調真正成功過，是在危害可量測、查核在物理上可行、且替代品存在的時候——而 AI 在這三點上「同時」都很難。這就是為什麼深思熟慮的人，會在「它做不做得起來」上落到如此不同的位置——一個誠實的理由。
常見的誤解與陷阱
第一個誤解，是以為協調意味著由「單一的世界政府」來決定每個人可以建造什麼。並不是；幾乎所有真實的東西都活在較低的階上——共享的定義、自願的承諾、共同的評測、查核——而沒有任何認真的提案要求、或需要一個「行星級的主權者」。第二個，是宿命論者的台詞：「中國永遠不會合作，所以這沒意義。」那太過工整。中國簽了《布萊切利宣言》，有它自己的 AI 法規（在某些領域比西方更嚴，例如演算法備案），並在官方聲明裡共享著「災難性風險」的措辭。與對手合作是困難而局部的，不是不可能——而那個鏡像的錯誤，也就是「假定合作很容易、或已經到手」，同樣是錯的。
第三個誤解，是以為監管意味著「叫停 AI」。幾乎每一個認真的提案，瞄準的都是少得可憐的前沿模型——那些最大、最有能力的訓練運行——而對 AI 那廣大的日常用途毫不觸碰；前沿 AI 監管的辯論，談的是那寥寥幾個最大的系統，不是你的電子郵件自動完成。第四個，是把一場峰會、一份宣言誤當成一個已解決的問題：那些是「共同關切」，不是「強制執行」，而把一份不具約束力的聲明讀成一紙已查核、有約束力的條約，是整個這個領域裡最常見的過度樂觀錯誤。第五個，也是對你最要緊的那個，是相信「一個個人，根本不可能影響這當中的任何一件事」。
你能做什麼
你不必去訓練一個模型才舉足輕重。AI 安全是一個年輕的領域，開放問題遠多於人手，而它的槓桿，多半不在寫損失函數——而在治理、資安、評測、溝通、營運，以及樸實的清楚思考。不過，對自己誠實地面對那份不確定：沒有人能保證任一個人的努力會改變結果，而這個領域裡，連「哪些努力真的有幫助」都充滿分歧。接下來不是一份保證有影響力的食譜；它是一種把你的份量，押在它最有機會算數之處的方式。
- 先校準你的信念。最有用的單一貢獻，是把事情想清楚：把已被證實的事實握緊、把臆測性的結論握鬆，並同時抵抗「上氣不接下氣的炒作」與「反射性的不屑」。你已經在整架梯子上練習過這件事——它本身，就是對一場被兩種極端都毒害了的辯論的貢獻。
- 在你本就傾向的地方練本事。機器學習與研究，通往技術對齊與可解釋性；政策、法律與經濟學，通往治理；資安，通往評測與穩健性；寫作與教學，通往領域建設與清晰的公眾溝通；營運與管理，讓安全組織真的運轉得起來。這個領域需要的是所有這些，不只是研究者。
- 挑一根槓桿，不是全部。技術安全、治理、資安、領域建設、溝通，或一個支援性的角色——在「一件事」上的深度，勝過攤在「每件事」上的薄薄一層。多數塑造了這個領域的人，都是在單一一件事上鑽得很深。
- 就在你已經身處之地行動。在公司裡：推動評測、紅隊與誠實揭露。作為公民：投下知情的一票、對擬議的規則表達意見、支持有能力的機構。作為一個打造者：謹慎地部署你自己的系統——從 RLHF 到紅隊到安全論證，你已經在這架梯子上學會了確切怎麼做。
- 保持誠實，並且留下來。兩種失敗模式是：在末日感裡燃燒殆盡，以及漂移成啦啦隊；會複利成長的那種貢獻，是有耐性、有校準、五年後還在的那種。帶著好認識論的耐力，勝過一場短暫而喧鬧的衝刺。
多數讀者會以「間接」的方式貢獻，而那確實有價值：在一個吵雜的房間裡，當一個思路清晰的聲音；在你恰好打造東西的任何地方，把安全的基線抬高一點；資助或支持好的工作；單純地，不往任一個方向的炒作裡添柴。基礎那一階的差異化技術發展這個想法，套在「職涯」上和套在「研究組合」上一樣成立：在你有選擇的地方，把你的努力，相對於原始能力，往「理解與安全」這一側的帳上引導。你不會總是乾乾淨淨地擁有那個選擇——但「察覺你何時擁有它」，已經是這件事的大半。
仍有爭論之處，以及接下來通往何方
第一個開放問題，是有意義的協調究竟可不可行。悲觀者主張：競賽加上大國地緣政治，讓深度、可查核的合作成了幻想——頂多期待一些自願性的戲，一旦它讓某人付出「領先」的代價就會蒸發。樂觀者指向臭氧與核武，作為「賭注夠清楚時這事辦得到」的證明，並指出過去兩年的進展，比 2022 年幾乎任何人預測的都快。兩邊都在從真實的證據誠實地推理；這問題確實未決，而你自己對它的判讀，也該保持暫定。
第二個爭論更尖銳：放慢，還是加速？2023 年，一封公開信呼籲，對「比 GPT-4 更強大的系統」的訓練暫停六個月；數千人簽了名，而同樣認真的許多研究者拒絕了，說它窒礙難行、甚至適得其反。各種口號繞著兩極長了出來——「d/acc」（一種差異化的、偏向防禦的加速）與「e/acc」（有效加速主義，大致是：更強大的 AI 更早到來，淨值是好的）。在噪音底下，坐著真正的驅動因素：人們的時間線與他們的毀滅機率估計，相差好幾個數量級，於是從「一模一樣的事實」，他們理性地走到了相反的政策。這裡沒有一塊人人都會接受的中立地，而假裝有，本身就是一種錯誤。
第三個爭論，是監管究竟是解藥還是俘虜。批評者警告：圍繞前沿模型寫出來的安全規則，會鞏固那些付得起合規成本的既有業者（監管俘虜），並壓垮開源與小玩家；辯護者回應：最大的訓練運行，恰恰就是監督該在的地方，而完全開放的權重，會把算力這根槓桿整個拿掉。橫切過這一切的，是框架之戰：國家安全的框架——「我們必須贏得對手 X 的競賽」——與合作的框架直接對立，而哪一個主導了對話，可能比任何單一法律都更要緊。這些是關於「價值」也關於「事實」的分歧，不是有定論答案的謎題，而你該預期：深思熟慮的人，會繼續分裂。
這裡是治理那一階的頂端，也是這架梯子的盡頭——但不是這個領域的盡頭。從這裡有三個方向。回頭：既然你已看過整道弧線，回去重讀基礎那一階；災難性風險的論點、乃至對齊問題，從頂端讀起來都不一樣了。鑽深：挑那條最抓住你的軌道——可解釋性、評測、RLHF、治理——越過這些入門，去追它的原始文獻。保持投入：讀《國際 AI 安全報告》、追那些安全研究所發布的東西，並在公開場合保持你誠實的認識論。你來時是一個徹底的初學者；你離開時，已具研究素養。你能做的、最後也最持久的一件事，就是在一個正極度需要這個的領域裡，繼續清楚地、出聲地思考。