治理與災難性風險

算力治理(compute governance)

假設你想限制一種危險藥物的擴散,並注意到製造它需要某種稀有化學品,而全世界只有寥寥幾座工廠能生產。你就找到了一個「咽喉點」:一個規則真正能咬得住的單一節點。算力治理的構想,就是把用來訓練最強大 AI 的那些特製晶片,當成正是這種咽喉點。

這套推理建立在幾項關於「算力」(運算能力)的事實上。訓練一個前沿模型需要極為龐大的算力,集中在塞滿尖端 AI 晶片的巨大資料中心裡。這些晶片是實體的、昂貴的,由極少數公司製造,其供應鏈(晶片設計、晶圓代工,以及把電路印上去的微影機台)只穿過屈指可數的幾家廠商。和軟體不同,你沒辦法把一顆晶片透過網路複製出去。這讓硬體變得異常容易治理:它可以被清點、定位、實施出口管制,原則上甚至能加裝晶片上的機制,去記錄或限制它如何被使用。舉例來說,政府可以管制最先進 AI 晶片的出口,或要求大型訓練在跨過某個算力門檻後必須通報。

算力治理之所以吸引人,是因為它在其他手段都很弱的時候提供了著力點:你很難逐行檢查一個模型的程式碼,但你可以追問「誰正在買進數以萬計全世界最先進的晶片」。不過它並非萬靈丹。以算力為基準的門檻,會隨著演算法變得更有效率(用更少算力達到同樣能力)而過時;出口管制可能刺激對手自建供應鏈;晶片上的監控則引發真實的隱私、資安與權力集中疑慮。它是一個有前景但仍有爭議的工具,而不是已成定論的解方。

某國禁止把最先進的 AI 加速器出口給特定買家,另外又要求境內任何運算量超過某個次數的訓練都必須登記,因為無論是晶片還是巨型叢集,都很難藏得住。

硬體是實體且集中的,因此它是整個 AI 流程裡少數你真的數得出來、也管得住的環節之一。

算力門檻是一種替代指標,而非事物本身。由於演算法持續變得更有效率,一個固定的運算次數會隨時間「漂移」,因此今天看起來像「前沿」的數字,幾年後可能只是稀鬆平常。

又称
computing governance計算治理硬體治理