代理式人工智慧與工具使用

代理式檢索增強生成(agentic RAG)

代理式 RAG 把檢索增強生成,從「擷取一次再作答」的單步,升級為由模型驅動的主動迴圈。傳統 RAG 對原始問題檢索一次,再寄望段落裡剛好有答案;代理式 RAG 則讓代理規劃查詢、閱讀回來的內容、判斷是否足夠,並決定再次搜尋、改寫問題,或在作答前改查另一個來源。這就像「查一次圖書館」與「一位順著線索追查的研究者」之間的差別。

具體而言,模型把檢索當成推理—行動迴圈中的一個工具:它決定何時查詢、寫出查詢、檢視回傳的文件,並可能把多跳問題分解成數個子查詢,讓其答案相互串接。各種變體再加上相關性評分器以過濾或觸發重新檢索、結果不佳時的查詢改寫,以及在多個索引或工具間的路由。對「已檢索過什麼」的記憶,可避免重複搜尋,讓代理在數回合間逐步累積證據。

迭代為單次檢索無法滿足的困難、多跳或含糊問題換來穩健性,代價是每個答案需要更多延遲與模型呼叫,也多出更多出錯之處——糟糕的子查詢、過早停止或陷入迴圈。如同所有檢索,答案的可信度不會超過其來源,因此錨定、引用與停止條件都很重要。

代理式 RAG 相較單次 RAG 的增益,主要出現在多跳或含糊查詢上;對簡單查找,它多半只增加延遲與成本。

又称
agentic RAGiterative retrieval代理式 RAG