人在迴路中（human-in-the-loop）

人在迴路中（HITL），意思是把一套AI系統設計成「讓一個人始終參與其決策」——由人來複核、批准、糾正、或推翻機器，而不是任由它完全自行其是。這個意象是一個「迴路」：AI提議，人來核查，結果再反饋回去。它是一個核心的安全與問責理念：對於事關重大的決定，你要讓一隻人手始終扶在方向盤上，而不是把方向盤整個交出去。

這裡有一道有用的光譜。嚴格意義上的「人在迴路中」，是指AI在「每一個決定」都經人簽字放行之前不得行動（醫生必須先確認，AI的標記才能成為診斷）。「人在迴路上」則要輕一些：AI自行行動，但有人在旁監控、可隨時介入（一位飛行員監督著的自動駕駛儀）。而「完全自主」，則意味著當下根本沒有人在場。許多法律與倫理框架，恰恰對那些高風險的用途——招聘、醫療、刑事司法——要求「有意義的人類監督」。

它為何重要：「人在迴路」是我們手上最強有力的實用防護之一，因為它保住了一個讓「判斷、語境與責任」得以重新進場的節點。但要誠實面對它如何失效，因為這些失效是有充分記錄在案的。「自動化偏誤」會讓人對機器的建議照單蓋章——尤其當它通常是對的時候——於是把那位人類複核者，變成了一片遮羞布，而非一道真正的關卡。人也無法有意義地監督一套自己並不理解的系統，或一套翻轉決定快過人能思考的系統。所以，「人在迴路」唯有當那個人確實擁有時間、資訊、權限與訓練去真正提出異議——而不只是被擺在那裡替人受過時——才算得上一道真正的防護。