人在回路中（human-in-the-loop）

人在回路中（HITL），意思是把一套AI系统设计成「让一个人始终参与其决策」——由人来复核、批准、纠正、或推翻机器，而不是任由它完全自行其是。这个意象是一个「回路」：AI提议，人来核查，结果再反馈回去。它是一个核心的安全与问责理念：对于事关重大的决定，你要让一只人手始终扶在方向盘上，而不是把方向盘整个交出去。

这里有一道有用的光谱。严格意义上的「人在回路中」，是指AI在「每一个决定」都经人签字放行之前不得行动（医生必须先确认，AI的标记才能成为诊断）。「人在回路上」则要轻一些：AI自行行动，但有人在旁监控、可随时介入（一位飞行员监督着的自动驾驶仪）。而「完全自主」，则意味着当下根本没有人在场。许多法律与伦理框架，恰恰对那些高风险的用途——招聘、医疗、刑事司法——要求「有意义的人类监督」。

它为何重要：「人在回路」是我们手上最强有力的实用防护之一，因为它保住了一个让「判断、语境与责任」得以重新进场的节点。但要诚实面对它如何失效，因为这些失效是有充分记录在案的。「自动化偏误」会让人对机器的建议照单盖章——尤其当它通常是对的时候——于是把那位人类复核者，变成了一片遮羞布，而非一道真正的关卡。人也无法有意义地监督一套自己并不理解的系统，或一套翻转决定快过人能思考的系统。所以，「人在回路」唯有当那个人确实拥有时间、信息、权限与训练去真正提出异议——而不只是被摆在那里替人受过时——才算得上一道真正的防护。