檢索增強生成

檢索紮根(retrieval grounding)

紮根(grounding)的意思是:模型的答案綁在檢索到的段落上,而不是憑記憶編出來。一個紮根良好的答案,只說來源文字確實支持的內容;若那些段落並未涵蓋問題,一套紮根的系統會明白說出來,而不是用猜的。它是一種「待在你拿到的證據範圍內」的紀律。

你可以透過指示模型「只根據提供的脈絡作答、答案不在裡頭時就坦白說沒有」來鼓勵紮根。紮根正是 RAG 的全部重點——它是削減幻覺(hallucination)的機制——但它從來不會自動發生:模型仍可能無視那些段落、把它們和半記得的訓練事實混在一起,或悄悄補上一個缺口。所以紮根是你必須去測試、去設計的目標,而不是只因為做了檢索就能假設它成立。

又稱
grounding