侷限、幻覺與風險
幻覺的種類(types of hallucination)
幻覺並非長得都一樣,把它們分類有助於抓出來。「事實型幻覺」與真實世界相牴觸:錯的日期、張冠李戴的引言、根本不存在的化學物質。「脈絡型/忠實度幻覺」則與你提供的文字相牴觸:你貼上一份文件、要它摘要,摘要卻多出文件裡從沒講過的內容。「引用型幻覺」會捏造來源——論文、作者、頁碼——這些東西從沒被寫出來過。
一個好用的二分法是「內在型」對「外在型」。內在型幻覺與模型眼前的輸入相矛盾,所以重讀來源就能查核。外在型幻覺則超出了輸入、伸進外部知識,查核時必須去對照更廣大的世界。知道自己面對的是哪一種,就知道該往哪裡驗證:回頭看提示,還是去查對現實。
另见