侷限、幻覺與風險

知識過時(knowledge staleness)

模型的知識在訓練資料蒐集的那一天就凍結了——這就是它的「截止點(cutoff)」。在那之後的一切,對模型而言都是它看不見的未來。你問上個月才換人的某個職位現在由誰擔任、某樣昨天才變動的東西現在多少錢、或今早那場比賽的結果,一個被凍結的模型只能依照「當時的世界」回答,而且往往沒意識到世界早已往前走了。

有兩個陷阱讓情況更糟。模型很少主動說明自己的知識有多舊,所以一個篤定卻過時的答案,讀起來跟一個最新的答案一模一樣。它還可能悄悄把過時的事實套上現在式的措辭,用早已失效的資訊告訴你「現任領導人是誰」。補救之道,是在提問當下餵給模型新鮮的資訊——透過搜尋或檢索——並直接問它截止點是什麼時候,而不是假設它是最新的。

又称
training cutoffknowledge cutoff