轉變性 AI（transformative AI）

有些科技不只是把生活改善一點點；它們重組了生活。蒸汽機與電力並不只是多添了一件工具，它們重塑了人們怎麼工作、住在哪裡、以及經濟如何成長。轉變性 AI 是一個刻意聚焦於「結果」的標籤，指的是會帶來那種規模衝擊的 AI，一種堪比農業革命或工業革命的社會與經濟變化，而不論這個系統內部是怎麼建造的。

這個詞的用意，是繞開關於「智能定義」的爭論。它不去問「它真的是 AGI 嗎？」或「它像人一樣思考嗎？」，轉變性 AI 問的是一個更乾淨的問題：它把世界改變得有這麼大嗎？一個系統可能一點都不像人、或在某些意想不到的地方很狹義，但只要它戲劇性地加速了經濟成長或科學進展，仍然可以是「轉變性」的。同樣地，某個被行銷成 AGI 的東西，也可能稱不上轉變性。這個標籤談的是「對世界的影響」，而非架構、也非它是否符合某張人類能力清單。

對安全而言，「轉變性」這個框架之所以重要，是因為抬高賭注的是「影響」而非「標籤」。如果 AI 強大到足以重塑經濟或權力平衡，那麼把對齊、監督與治理做對，就相應地變得重要，無論我們是否曾經同意它算不算 AGI。誠實的但書是：AI 會不會、何時、以及如何變得具轉變性，都深具不確定且有爭議；嚴肅的預測從「很快且影響巨大」一路到「漸進且被誇大」都有，而這個詞是一種在「不假裝不確定性不存在」的前提下，去推理高影響結果的方式。