大型語言模型代理與工具使用
代理編排框架(agent orchestration framework)
代理不只是一個模型——它是被包進一個迴圈、一組工具、一個記憶儲存、重試邏輯和日誌裡的模型。編排框架(orchestration framework)就是把這一切兜在一起的軟體:它跑「思考—行動—觀察」迴圈、把模型的工具請求導向真實的函式、管理脈絡與記憶,並讓整段執行保持在軌道上,這樣你就不必每次都親手接線。
具體來說,這些框架給你可重複使用的積木——工具定義、代理角色、步驟之間的控制流程、跨輪保存的狀態,以及給日誌與人類核可用的掛鉤。有些偏向自由形式的代理,讓它自己決定路徑;有些偏向固定的圖,由你指定允許的步驟。取捨在於彈性與可預測性:更多自由能解更多問題,卻更難測試與信任。
框架不會讓代理變聰明——思考的仍然是模型。它提供的是不起眼的可靠度層:一致的重試、對「發生了什麼」的可見性,以及結構,而這些正是區分一個不穩的展示,和一個你能放著無人看管也能跑的東西的大部分原因。
又稱
另見