湧現之爭（emergence debate）

如果一項技能在某個大小彷彿憑空出現，自然會接著問：那個跳躍究竟在模型裡，還是在我們的尺上？湧現之爭就是針對這一點的現場辯論。一派看到的是真正類似相變的躍遷；另一派則主張，許多湧現曲線是嚴苛的、全有或全無的評分所造出的海市蜃樓。

懷疑方的論點是：如果你把一項任務評為完全對或完全錯——對一段長答案做精確比對——那麼模型底層答對整串序列的機率就算在穩定平滑地進步，也會一直隱形，直到跨過門檻、分數才突然躍起。換成較平滑的指標，例如詞元層級的似然或部分給分，同樣那幾次訓練往往會顯露出一條漸進、可預測的爬升，沒有任何魔術般的階梯。反方則回應：有些能力即使在溫和的指標下也確實看起來不連續，而且事後可預測不等於事先可預測。

這場辯論的賭注是實務上的，而非哲學上的：如果陡峭的湧現多半是指標造成的假象，那能力就更可預測、更安全去規劃；如果它是真的，那意外就被內建進了規模化之中。