競賽動態(racing dynamics)
想像有好幾位跑者,都深信「誰先衝過終點線,誰就贏走一切」。每個人都害怕,停下來綁個鞋帶,在這裡,就是仔細複查安全,意味著輸給一個沒停下來的對手。於是大家都繼續衝刺,甚至衝過了那些他們私底下其實都寧願留意的警訊。競賽動態就是把這個模式套用到 AI 上:一種把開發者或國家推向「跑更快、在安全上偷工減料」的競爭壓力。
它的結構是一個典型的「集體行動問題」。每個競爭者或許都真心看重謹慎,卻會這樣推理:「如果我停下來小心,而我的對手沒有,他就贏了,我的謹慎也白費了;不如跟上。」當每個人都這樣推理時,整個群體就一起朝著「沒有任何個人想要的結果」狂奔,一場在安全上的「逐底競爭」。這在兩個層次上出現:競爭市場與人才的公司之間,以及把 AI 框成戰略較量、覺得落後是不可接受的國家之間。即使是對風險有共識的行動者,也可能感到被困住、不得不加速。
競賽動態之所以重要,是因為它可能瓦解審慎的安全工作:一家實驗室可能為了搶先上市而縮短測試,或一個國家可能抗拒它擔心會在對手面前綁住自己手腳的監管。這正是為什麼許多 AI 治理瞄準「協調」,協議、共用標準、查核,好讓每個人能一起放慢,而不會有任何一方因為「率先這麼做」而吃虧。被提出的解方包括國際協調,以及差異化技術發展(讓安全的進展快過純粹的能力),但協調很難、信任稀缺,而競賽實際上有多嚴重,也仍有爭論。
兩家實驗室各自私下都想要更長的安全審查,但各自都害怕對方會搶先上市、攻佔市場,於是雙方都壓縮了測試、提早上市,最終落到那個誰都不想要的、倉促的結果。
這個陷阱是結構性的:唯有在對手也謹慎時,謹慎才划算,因此能讓大家一起放慢的,是「協調」,而不只是善意。
競賽動態是一個集體行動問題,而非「壞人作惡」的故事;即使是重視安全的行動者,也可能感到被迫加速。這正是為什麼解方強調「可查核的協調」,而非訴諸個人的自我克制。