幻覺基礎（hallucination）

幻覺指的是語言模型把錯的東西講得像是理所當然的真相。你問它某個小鎮的人口、一本它只記得一半的書的劇情、或某人說過的一句話，它可能會給你一個乾淨、篤定、卻完全是憑空編出來的答案。整段回覆看起來沒有任何不對勁——沒有結巴、沒有遲疑、沒有閃爍的警告。正是這種流暢，讓它格外危險。

要記住的關鍵是：這不是打個修補程式就能消除的程式錯誤。模型被打造出來，是為了產出「聽起來對」的文字，而不是「對照過真實世界、確認無誤」的文字。當它不知道時，它不會閉嘴——它會生成看起來最合理的接續，而一個看起來合理的謊言，仍然是謊言。請把大型語言模型給出的每一條事實主張，都當成一份篤定但仍需查證的草稿。