侷限、幻覺與風險

事實性錯誤(factual errors)

事實性錯誤是最容易想像的一種失誤:模型把一個可查證的事實講得明明白白地錯了。它會說某條河流經錯的國家、給一條著名方程式錯的常數、把一場戰爭的年代放錯十年,或把一個任何人都能查到的數字搞糊塗。這些不是見仁見智的看法——有正確答案,而模型一臉篤定地答錯了。

這些錯誤為何溜得過去,很有啟發性。那些在訓練文本裡出現得稀少、不一致或本身就有誤的事實,模型記得不牢;它會把互相衝突的記憶調和成一個「平均值」,而這個平均值可能哪個版本都不符合。數字與專有名詞尤其脆弱,因為改一個位數或一個字母就改變了意思,卻幾乎不影響句子讀起來的流暢。解法很少是「更聰明的提示」——而是把答案扎根在一個模型能照著引用的可信來源上。