建構大型語言模型應用與前沿

前沿模型與通用人工智慧(frontier models and AGI)

前沿模型(frontier models)是站在最前緣、最大也最能幹的系統——少數幾個界定了「當下什麼做得到」、並在每一代推進出新能力的模型。盤旋在它們之上的,是那個更古老的夢想:通用人工智慧(artificial general intelligence,AGI)——一個能在全幅度的任務上追平或超越人類、而不只在狹窄任務上如此的系統。今天的軌跡是否通往那裡,是這個領域最喧鬧的辯論之一。

前沿模型的界定,與其說在於某個固定的尺寸,不如說在於它坐落於能力的邊界上,以龐大的算力訓練,並且越來越多地用工具、檢索與額外的推理時算力來增強,而不只是更大的權重。AGI 沒有公認的定義或測驗——各種提案從「自動化大部分有價值的工作」這類經濟衡量,到「通過廣泛的能力測驗組」都有——這正是為什麼人們對「我們有多接近」意見不一。樂觀者指向快速而廣泛的能力躍進;懷疑者則指向揮之不去的脆弱、淺薄的推理,以及尚未解決的可靠性。

這場辯論並非紙上談兵,因為人們對前沿的信念,驅動著巨額的投資、政策與安全關注。誠實在這裡比在任何地方都更重要:今天的模型確實非常能幹、也真正有用,卻仍會幻覺、會在一個孩子都能處理的任務上失手,並且幾乎不具備 AGI 這個詞所暗示的那種穩健、可靠的通用性。把驚豔的展示當成通用智慧的證明——或把真實的進展貶為純粹的炒作——兩者都會誤導。腳踏實地的看法,是清楚地觀察能力與限制,而不對「這條曲線終於何處」抱持確定。

又称
frontier modelsartificial general intelligence