你管制不了一個點子，但你看得見一座資料中心
這一級的前兩篇導引，留給你一個尖銳而不太舒服的問題。第一篇鋪陳了災難性風險與存在性風險的論證——以及專家對它那寬廣而誠實的意見分歧。第二篇檢視了起飛、時間線與智慧爆炸。假設你現在連這些憂慮的一小片都認真看待了，接下來最明顯的問題就極其實際：如果這當中有些是真的，在事情發生之前、在這個現實存在的世界裡，到底有誰能做些什麼？你沒辦法立法去禁止一個數學點子。你沒辦法替一個貼在網路上的演算法圍上柵欄。那麼，把手在哪裡？
而這篇導引整個要談的，正是這個突破口：今天最有能力的 AI 系統，不只是點子——它們是物理的。訓練一個前沿模型，需要一整棟塞滿專用晶片的建築，耗電量抵得上一座小鎮，連續跑上好幾個月，花費數千萬到數億美元。你檢查不了一個模型的心智，但你可以去監看、清點，並守住「打造這樣一個模型所需的那項稀有物理資源」。這個賭注——治理投入，因為投入遠比產出容易看見——正是算力治理，以及建立在它之上的前沿監督體制的核心。
在動用任何術語之前，先抓一個類比。核子武器難造，不是因為物理是祕密——基本原理就在教科書裡——而是因為它的投入，尤其是濃縮鈾，既稀少、可被偵測，又只在少數幾個可辨認的地方生產。於是這個世界很大程度上是靠「治理離心機」來治理炸彈。算力治理對前沿 AI 下的是同一個賭注：你或許永遠讀不出一個模型的意圖，但你可以把一根槓桿，掛在「創造這樣一個模型所需的那件稀有、顯眼、物理之物」上。整個領域，都是在試著替一項否則感覺毫無摩擦力的技術，找出可以施力的把手。
為什麼偏偏是「算力」，成了那個可治理的投入
先把「進入一個前沿模型的東西」說精確。大致是三樣：算力（你花掉多少原始的計算）、資料（模型從什麼東西裡學）、以及演算法（把算力與資料變成能力的配方與架構）。這裡的「算力」，指的是訓練一個模型所用的計算總量，通常以 FLOP 衡量——浮點運算，也就是一個個的算術步驟。今天一次前沿訓練的規模，大約落在 10^25 到 10^26 FLOP：一個 1 後面接著二十五或二十六個零。這個數字之所以重要，靠的是你在第二篇遇過的那條擴展規律：橫跨許多個數量級，更多的算力（花得好、配上相稱的資料與參數）穩定地買到了更低的損失，而且往往是一個大型語言模型裡更多的能力。
不過，有一個但書要一路帶著：擴展法則是經驗性的規律——目前為止觀察到的模式——不是自然定律，也不保證會延續下去。它可能彎折、停滯，或乾脆斷掉。這一點在這裡關係重大，因為「治理算力」的論證，倚賴的正是「算力會持續追蹤能力」這個假設。如果這個連結變弱了，那根槓桿也跟著變弱。把「更多算力代表更多能力」當成一個強而有力、被觀察到的趨勢，而不是一條定理。
那麼，這三項投入裡，為什麼大家伸手去抓的是算力？因為算力有另外兩者所缺的四個性質，這在近期的治理研究裡（Sastry 等人，2024）被清楚地列了出來。它是可偵測的：一次前沿規模的訓練，需要電力、冷卻，以及數千枚晶片集中在一處，這在物理上很顯眼。它是可排除的：晶片是物理物件，所以對它們的取用真的可以被拒絕——你沒辦法拒絕別人取用一個點子。它是可量化的：FLOP 是一個你能估算、也能對著它寫下門檻的數字。而製造這些晶片的供應鏈，是極度集中的。相對地，資料到處都是、可被無限複製；演算法幾秒鐘內就能以一份 PDF 的形式環遊地球。算力，是唯一一項「具競用性、物理、且有瓶頸」的投入。
最後那個性質——集中——值得畫一幅圖，因為它是其他一切的前提。尖端 AI 晶片的供應鏈，穿過一個窄得驚人的瓶頸。一家荷蘭公司，ASML（艾司摩爾），是製造「印出最先進晶片所需」的極紫外光（EUV）微影機台的唯一廠商。一家台灣公司，台積電，主宰著最先進製程的晶圓代工。一家美國公司，輝達（NVIDIA），設計了用來訓練前沿模型的大多數加速器。當一整個產業都穿過三、四家公司時，少數幾個政府與企業，便坐在了「原則上可以掛上槓桿」的咽喉要道上。
- 晶片設計，以及專門的設計軟體（EDA）——少數幾家（多半在美國）廠商，生產出「沒有它就連畫都畫不出一枚先進晶片」的工具。
- EUV 微影機台——ASML 是地球上唯一製造它們的公司，而單單一台機器就要價數億美元。
- 最先進製程的製造——台積電在極少數幾座晶圓廠裡，生產出全世界絕大多數最先進的晶片。
- 加速器的設計與組裝——輝達的 GPU（以及少數幾個對手）被封裝進「填滿一座 AI 資料中心」的伺服器裡。
- 資料中心與雲端供應商——少數幾家大型業者收納這些算力、並出租其使用權，這是「使用情況能被看見、且若有人選擇就能被守住」的最後一個點。
算力治理實際上在做什麼——那些機制
握住了那幅圖，算力治理就能被乾淨地定義：把算力供應鏈——以及訓練算力的可量測性——當成一根槓桿，用於AI 治理的做法。它不是一項政策，而是一個工具箱，大半是從 2022 年前後才組裝起來的。對初學者有用的做法，是一次認識一件工具，因為每一件都做著不同的事，也各有各的失效方式。
第一件、也是被討論得最多的工具，是算力門檻：一個 FLOP 的水位，越過它，一次訓練就掙得了額外的關注。在這條線以下，一次訓練被當成尋常之事，沒人在看；在它以上，開發者就背上了義務——典型地，是向政府通報這次訓練正在進行，並分享安全測試的結果。一個相伴的機制是針對大筆算力採購的 KYC（「認識你的客戶」），雲端供應商必須記錄、並在必要時通報「誰在購買前沿規模的算力」——這正是銀行用來對付洗錢的同一套邏輯，只是對準的是 GPU 而不是現金。
第二件工具跨越國界：出口管制。一個政府可以限制「把最先進的 AI 加速器、以及製造它們所用的設備」賣給特定國家。這件工具誕生自舊有的國家安全出口管制機器，而不是來自 AI 安全的討論——但因為它直接形塑了「究竟誰能囤積到前沿規模的算力」，它已經和 AI 安全深深糾纏在一起。這份雙重的出身——一半是地緣政治，一半是安全——是一道我們會再回來談的張力，因為這兩套邏輯並不總是指向同一個方向。
第三件工具最具未來感，也最尚未成形：硬體啟用機制，有時被稱作晶片端治理。這個構想，是把驗證烤進晶片本身——例如，一枚能以密碼學方式證明「自己只跑了一份獲授權工作負載」的晶片，或能回報自己位置、或能強制執行一個使用上限的晶片。它的吸引力在於「無需信任的驗證」：你能去查核一個「關於這枚晶片如何被使用」的主張，而不必聽信任何人的片面之詞。不過要誠實地說明它的狀態——這大致上仍是早期研究，大半尚未建成，而且就其本身也有爭議（它牽動著真實的隱私、安全與權力集中的疑慮）。它是一根「可能的未來槓桿」的草圖，而不是一件今天正在使用的工具。
Training compute, rough rule of thumb:
C ~= 6 * N * D
N = number of model parameters
D = number of training tokens
C = floating-point operations (FLOP)
For scale (a publicly *estimated* figure -- never disclosed by the lab):
GPT-4-class run ~ 2 x 10^25 FLOP
Threshold triggers seen in real policy:
US EO 14110 (2023) > 10^26 FLOP -> report the run to government
EU AI Act 'systemic risk' > 10^25 FLOP -> extra obligations apply
Note: a FLOP count is a CRUDE PROXY for capability, not a measure of it.
The threshold gates SCRUTINY; it does not certify a model as safe.前沿模型監督：由誰來盯著前沿
算力治理是標題的一半；前沿模型監督是另一半，而兩者互相咬合。先看這個名詞：一個前沿模型，是一個高度有能力、通用目的、位於或超越當前尖端的模型——它能力的完整範圍無法事先被掌握，而且可能因意外或誤用而帶來嚴重風險。監督之所以集中在這裡，理由跟「監管機構檢查一架新客機，會比檢查一架紙飛機更仔細」一樣：前沿，是未知與利害所棲身之處。上一節談的那個門檻，正是用來決定哪些訓練算得上前沿、因而落入監督之網的那個裝置。
監督具體由什麼構成？大半是部署前測試：在一個前沿模型被釋出之前，先讓它跑過一輪評測——尤其是你在評測那一級遇過的危險能力評測，去探查那些「光是存在就令人警覺」的能力，例如實質協助一個新手邁向生物武器，或自主到足以複製自己。真正全新的發展，在於由誰來跑這些測試。它越來越不再只由開發者一手包辦：獨立的第三方評測者，以及政府的 AI 安全研究所——英國與美國的，連同其他幾個，自 2023 年起陸續成立——如今能取得釋出前的存取權去測試前沿系統，好讓實驗室不再純粹是在批改自己的作業。
現在，看著這些零件喀地一聲扣成一條鏈。一個算力門檻，是把某一次特定訓練拉進監督之網的觸發點。一旦進了網內，一條條件式承諾——事先寫進開發者的負責任擴展政策裡——便指明了什麼證據去守住什麼行動：如果一次危險能力評測顯示模型越過了某個界定好的門檻，那麼就觸發一個特定的回應（更強的安全防護、部署限制，或暫停進一步擴展）。整套裝置的好壞，取決於它最脆弱的那個接點，而那個最脆弱的接點，就是評測本身：回想先前幾級——通過一場評測，是「在受測案例上」的證據，而非保證，而且一個模型原則上可以故意藏拙——刻意表現不佳，好顯得安全。第四篇導引會把這條鏈拆開細看；在這裡，只要握住它的形狀。
一個實作案例：10^26 那條線、歐盟 AI 法案，以及晶片管制
用三個在世界上真實存在的具體實例把它變真實，每一個都是一種不同種類的槓桿。第一個是國內的通報門檻。2023 年 10 月，美國發布了一道行政命令（EO 14110），它在其他眾多內容之外，要求開發者向政府通報任何超過 10^26 FLOP 的訓練，包括紅隊與安全測試的結果。來感受一下這個尺度：GPT-4 在公開場合被估計為大約 2 x 10^25 FLOP（OpenAI 從未揭露真實數字），所以 10^26 那條線，落在當時最有能力的模型之上一個檔次——刻意瞄準的是下一代，而不是當代。
第二個實例是一套國內的義務體制，而且目前正在生效。歐盟的《AI 法案》——一份重量級的前沿 AI 監理——推定：一個通用目的模型一旦其累積訓練算力超過 10^25 FLOP，便帶有「系統性風險」。越過那條線，額外的義務就附了上來：模型評測與對抗測試、評估並緩解系統性風險、通報重大事故，以及確保網路安全。要注意這裡的門檻設得比舊有的美國數字更低，大約在 GPT-4 的尺度——這是「對『前沿』從哪裡開始」的一個不同判斷，被編碼進同一種 FLOP 數字裡。
第三個實例跨越國界：出口管制。從 2022 年 10 月開始、此後又一再收緊，美國限制了「把最先進的 AI 加速器與晶片製造設備」賣給中國。它對外宣稱的框架是國家安全，但它的效果不折不扣是一個算力治理的效果：它形塑了「在地理上，究竟誰能組裝起前沿規模的算力」。誠實地讀它，你會立刻看見那把雙面刃。對某些人而言，它是對一場危險能力競賽、一道與安全相關的煞車；對另一些人而言，它主要是一步地緣政治的棋，可能只會逼一個對手去打造一條獨立的供應鏈——這是一個我們在這裡確實無法拍板的問題，而優秀的分析者們正為它認真爭辯。
常見的誤解與陷阱
有一叢陷阱，幾乎逮住每一個剛接觸這領域的人。(1)「算力治理就是禁止 AI，或沒收 GPU。」不對——每一個真實的提案，瞄準的都只是最大的那些訓練，或最先進的那些晶片；你的筆電、你的手機，以及絕大多數的運算，都離那些被劃下的線遠得很。(2)「一個 FLOP 門檻，衡量的是一個模型有多危險。」不對——FLOP 是一個粗糙的代理。在尺度的大幅跳躍之間，它與能力鬆散地相關，但它不是一個能力量測，更絕不是一個風險量測；一個聰明地訓練出來的較小模型，可以勝過一個較大的模型。(3)「在門檻之上就危險；在門檻之下就安全。」不對——門檻守住的是審視，而不是一個安全的判決。越過它，觸發的是「來看一眼」；待在它之下，並不是一張健康證明。
比較細膩的陷阱，是關於這一切如何隨時間老化。(4)「一個門檻，一旦設定，就一直有意義。」不對——演算法效率持續在進步，所以「達到某個給定能力所需的算力」會隨時間下降（依某些估計，大約是每年數倍的速度）。因此一條固定的 FLOP 線，每年逮住的模型越來越少，必須被重新檢視，否則它會悄悄地不再咬合。(5)「訓練算力就是故事的全部。」越來越不對：推論時算力（在使用當下「思考」更久的推理模型），以及對「已釋出權重」的微調，兩者都能在「沒有一次龐大的全新訓練」的情況下提升有效能力——把戰場挪到「訓練 FLOP 門檻所畫的框」之外。(6)「算力治理能阻止誤用。」大半不能——它治理的是前沿模型的創造。一旦一個模型的權重被公開釋出，沒有任何算力槓桿能把它們收回，而「對一個既有模型的誤用」是一個獨立的問題，需要獨立的工具。
仍在爭論的部分，以及接下來往哪走
這裡的分歧是真實的，而且發生在認真的人之間；要報導它，而不是替它了結。在樂觀的一側：算力是我們手上最可操作的槓桿——獨一無二地可偵測、可排除、可量化、有瓶頸——所以它提供了這個領域裡稀有的一樣東西，一個真的能被握住、也能被驗證的把手。它買到時間，而且只碰少數幾個最大的訓練，而不是一般使用者。在懷疑的一側：那個把手可能正在鬆脫。演算法效率、推論時算力的崛起，以及公開釋出的權重，全都在侵蝕「訓練 FLOP」與「真實世界能力」之間的連結，所以一根建立在那個連結上的槓桿，會隨著技術前進而變弱。
另外三條斷層線值得點名，好讓你在野外認得出它們。第一，權力的集中：一個守住前沿的體制，可能讓「少數負擔得起合規成本的既有者」更加根深柢固，並招來對於「監理俘虜」、以及對於「掌握咽喉要道者究竟是誰」的憂慮。第二，公民自由：最可驗證的那些機制——KYC、硬體監控——也是最具侵入性的，牽動著真實的隱私與監控疑慮。第三，地緣政治對上安全：出口管制棲身於「國家安全邏輯」與「AI 安全邏輯」的接縫處，而這兩者並不總是對齊。一個拖慢對手的措施，可能加劇一場競賽——餵養第二篇警告過的競速動態——而不是產生出安全所想要的那種協調一致的審慎。
再退一步，看那個最深的倚賴。算力治理究竟值不值得，取決於你在前兩篇被請求「保持開放」的那些信念。如果災難性風險被誇大了，這當中的許多就是代價高昂的過度伸張；如果它是真的，這可能還遠遠太少。而且——對這根槓桿至關緊要的是——如果起飛最終被證明主要由演算法上的洞見、而非由原始算力所驅動，那麼治理算力，握住的就是錯的那個變數。這些先驗信念沒有一個是已定的，這正是為什麼誠實的人在共享著全部相同的事實時，卻會在算力治理上落到不同的位置。抵抗那股「奔向一個整潔判決」的拉力；校準過的立場是：算力治理既是一根真正有前景的槓桿，也是一根真正有局限的槓桿。
接下來往哪走。你現在握住了這幅圖的「投入端」：前沿如何被看見、又如何被守住。第四篇導引轉向「一次訓練進了網內之後會發生什麼」——負責任擴展政策、把評測接到行動的條件式承諾，以及那些本該讓監督變得可信的安全機構。第五篇接著把鏡頭拉寬到國際協調與個人行動，因為一根建立在全球供應鏈上的槓桿，唯有在主要的參與者一起行動時才咬得住——而那是一個信任與政治的問題，不是一個 FLOP 的問題。這篇導引貫穿始終的主線從不改變：算力治理是一個賭注，賭「最容易看見的東西——物理投入——能成為對最難控制之物——前沿能力——的一個有用把手」。有前景、有爭議，而且不完整——它是一根槓桿，不是一個解答。