Human-in-the-Loop（人在回路）设计定义了人类在自动化工作流中何时、何地以及如何介入。人类参与过少，系统会犯下危险错误；参与过多，则只是构建了一个昂贵的通知系统。
一、介入类型
- 审批门（Approval gates）：系统暂停并等待人类批准后再继续。
- 审查检查点（Review checkpoints）：系统呈现结果供人类审查，但若无异议可继续。
- 纠正机会（Correction opportunities）：系统展示其工作过程，人类可在最终确定前进行编辑。
- 覆盖控制（Override controls）：人类可随时停止、重定向或撤销系统操作。
- 监控仪表盘（Monitoring dashboards）：人类被动观察系统，仅在需要时介入。
二、何时需要人类介入
- 高风险：代价高昂、不可逆或影响多人的操作。
- 低置信度：系统对正确操作不确定。
- 新颖情境：输入或上下文超出系统训练分布。
- 伦理判断：需要道德推理或价值权衡的决策。
- 法律要求：法规或合规要求强制人类审查。
- 用户请求：用户明确要求人类参与。
三、设计介入点
对每个介入点需明确：
- 触发条件（Trigger）：什么导致介入？（置信度阈值、风险级别、用户请求、策略要求）
- 呈现方式（Presentation）：人类看到什么？（摘要、完整上下文、建议、选项）
- 时间约束（Time constraint）：人类必须多快响应？若未响应会怎样？
- 决策选项（Decision options）：人类可以做什么？（批准、拒绝、编辑、上报、推迟）
- 反馈整合（Feedback integration）：人类的决策如何反馈到系统中？
四、避免人类瓶颈
人类介入成本高且速度慢，设计应尽量减少不必要的介入：
- 渐进式自主（Graduated autonomy）：从较多人类监督开始，随系统可靠性提升而减少。
- 批量审查（Batch review）：将相似决策分组，提高人类处理效率。
- 智能路由（Smart routing）：根据专业知识和可用性将介入任务发送给合适的人。
- 默认动作（Default actions）：若人类在时间窗口内未响应，采取安全的默认动作。
- 从介入中学习（Learning from interventions）：利用人类决策改进系统，使其随时间推移需要更少介入。
五、设计产物
- 介入点地图（Intervention point map）：工作流中的位置及各自的触发条件。
- 介入界面设计（Intervention interface designs）：人类看到什么、能做什么。
- 时间约束规范（Time constraint specifications）。
- 渐进式自主计划（Graduated autonomy plans）。
- 介入分析规范（Intervention analytics specifications）：跟踪介入频率、原因及人类决策内容。