通用人工智慧（artificial general intelligence）

我們所熟知的大多數 AI 都是「狹義」的：一個西洋棋程式下棋一流、做別的事卻毫無用處；一個翻譯系統會翻譯，卻不會開車。通用人工智慧（AGI）指的是這個光譜另一端的一個非正式目標，一個具備廣泛、靈活能力的系統，能夠在人類所能做的大多數認知任務上學習與表現，而不是被鎖死在單一領域。日常的圖像與其說是一台聰明的家電，不如說是一個有能力的通才，能像人一樣去上手新問題。

重要的是，AGI 並沒有單一公認的定義，對任何把某個精確定義說成「已成定論」的人，你都該保持懷疑。有人用「廣度」來定義它（它能不能處理人類所能處理的全部任務範圍？），有人用一道「經濟門檻」（它能不能做大多數有經濟價值的工作？），有人則用「全面達到或超越人類表現」。近年的大型語言模型讓這條界線更模糊了，因為相較於舊系統它們驚人地通用，卻仍會以某些方式失敗，暗示它們做的並不是人類心智在做的事。當前的發展軌跡會不會、以及何時會通往 AGI，是這個領域中最有爭議的問題之一。

AGI 對安全之所以重要，是因為「通用性」與「自主性」正是讓對齊與控制問題變得急迫、而非紙上談兵的東西。一個只會翻譯文字的狹義工具，無法在世界上追求目標；而一個能力廣泛、目標導向的系統卻可以，這時關於工具性收斂、失準、以及失去監督的擔憂才開始咬人。這正是為什麼許多安全工作圍繞著 AGI 或近 AGI 系統的前景來構思，同時也誠實承認：時間線，乃至於「AGI 是否根本就是對的概念」，都有真正的不確定性。