第10章 Human Oversight：人类监督的机制设计
第6章在讨论自主性边界时，将智能体面对的决策划分为三类：可以自主决定、需要请示以及禁止执行。这种划分明确了智能体自主行动的边界，但尚未进一步回答：当一个决策超出自主范围、需要人工介入时，应当如何组织请示和决策过程。第8章讨论沙箱与审批的双轴控制时，同样给出了不同层级的审批策略，但审批机制本身仍然留下了一个更根本的问题：人应该在什么环节介入，以什么方式介入，又应该依据什么信息作出判断？
这个问题并不是简单地增加人工审批就能够解决。如果人工介入过少，关键决策可能在缺少有效监督的情况下由智能体自行完成；如果介入过于频繁，大量低风险、可逆的操作都需要等待人工确认，不仅会消耗有限的注意力，也会削弱智能体自主执行带来的效率优势。更值得警惕的是，如果审批者缺少必要的上下文和证据，只能机械地选择“允许”或“拒绝”，那么即使流程中设置了人工审批，也未必形成了真正有效的监督。
因此，人类监督（Human Oversight）不是一个笼统的“是否信任智能体”的态度问题，而是一项需要专门设计的工程机制。它需要回答一组相互关联的问题：人工介入点应该设置在哪里，哪些事件需要触发人工决策；评审者需要看到哪些信息和证据，应当采用什么方式进行判断；智能体在请求人工决策时，应当如何组织问题、备选方案和影响分析；人与智能体又分别需要怎样的工作环境和工具支持。只有这些机制相互配合，团队才能在扩大智能体自主范围的同时，使关键决策权、风险接受权和最终责任仍然由人掌握。
本章将在前几章建立的信任、意图、上下文、执行控制和验证机制基础上，进一步讨论人如何进入智能体的软件工程闭环。这里的目标并不是让人检查智能体执行的每一个步骤，而是把有限的人工注意力配置到真正需要人类判断的位置：对于低风险、可逆且能够被确定性验证的操作，可以给予智能体更大的自主空间；对于高影响、难以恢复、存在目标冲突或者需要承担剩余风险的决策，则应建立明确的人工介入机制。
读完本章，读者应当理解：人类监督不是智能体自主性的对立面，而是自主性得以安全扩展的重要条件。一套设计良好的监督机制，追求的不是增加审批数量或者延长评审流程，而是提高人工介入的有效性——让人在真正需要判断的地方介入，并获得作出有效判断所需要的信息、证据和决策权。