檢索增強生成
脈絡注入(context injection)
檢索已經找到了段落;現在它們得真的送到模型面前。脈絡注入(context injection)這個步驟,就是把檢索到的文字貼進提示裡——通常放在像「脈絡:」這樣的標題下,接著是那些段落,然後才是你的問題與一句「請依據上述脈絡作答」的指示。它是 RAG 中搜尋那一半與生成那一半之間的橋梁。
如何組裝這段內容,比看起來更要緊。段落必須塞得進脈絡視窗,所以你只留最前面幾段。它們的排列順序、彼此之間清楚的分隔,以及每段附上的來源標籤,都會改變模型使用它們的可靠度。把最重要的材料放在開頭或結尾附近也有幫助,因為模型往往會忽略冗長提示的中段。接著模型就以這些注入的證據為條件生成答案。
又称
另见