哪些任务适合交给 Agent 自动完成,怎样设置人工介入边界?
未标记
考查重点:自动执行与人工接管的分界。可验证且可回滚的步骤自动执行;付款、权限变更等高影响操作在执行前确认,超时或证据冲突时人工接管
本题目录
参考答案
核心回答
适合 Agent 自动完成的任务,通常具有目标明确、结果可验证、操作范围可控、出错后能恢复这些条件。人工介入要按具体业务动作设置,不能只按“用了 AI”或“有写操作”统一划线。
例如运维任务中,读取授权范围内的指标、整理日志、匹配已知故障和生成处理建议,可以自动推进;已经授权、范围有限且有成熟校验与回滚流程的修复,也可以自动执行。若要变更生产配置,却存在目标不清、证据冲突或恢复代价高的问题,应先由人判断。
边界可以分三层:
- 开始前判断能否闭环:是否具备所需信息、工具、权限、验收方式和恢复手段。
- 执行中按条件转交:缺少关键输入、遇到未授权动作、重复失败、没有进展或接近预算时,停止相关步骤并带着证据交接。
- 人工处理后可恢复:保存当前状态、已执行动作和待决事项,接收补充、修改或拒绝结果,再校验现场后继续,避免重复操作。
人工可以负责澄清目标、判断例外、决定某个动作或直接接管,不必每一轮都确认,也不必把整个任务从头交回人。
用动作的后果与恢复成本判断自动化范围
先拆业务链路,区分“读信息、提出建议、改变外部状态”。同一个 Agent 可以负责前两类,第三类按条件开放。
以故障处理为例:告警归类和日志摘要即使出错,通常还可对照原始材料修正;重启实例会影响在线请求;清理数据一旦误删,恢复可能依赖备份,甚至无法完整恢复。因此,不能用同一套自动执行条件覆盖所有动作。
判断时具体看:
- 能否验收:有无明确状态、规则、测试或可对照的证据,还是只凭模型说“已经解决”。
- 错误影响:涉及单个测试资源,还是大量用户、资金、权限或不可替代的数据。
- 可逆性与补救成本:能否重试、撤销、回滚;恢复耗时是否超过业务容忍度。
- 环境稳定性:输入和工具是否可靠,是否存在长等待、并发变更或外部系统结果不明。
低风险写入也可能适合自动化,例如按既定规则创建内部工单、在隔离环境修改文件或重建可再生成的缓存。高影响动作若已具备明确授权、经过验证的操作规程、监测和可靠恢复,也可以受控自动执行;关键是这些条件真实成立。
哪些情况需要人,以及人需要做什么
任务含糊时澄清。 例如“把服务器恢复正常”没有说明可接受的中断和修改范围。先补足目标及限制,不让 Agent 自行替业务决定取舍。
证据不足或冲突时补充判断。 日志同时指向两个不同原因、资源归属不明,或数据与用户描述矛盾时,可以让人提供缺失信息或选择后续方向。模型自报的置信度只能作为线索,不能直接充当可执行依据。
动作超出已授权范围或影响发生变化时暂停。 比如原先只处理测试环境,却发现目标实际是生产实例;或者准备修改的配置已经被他人更新。需要重新明确当前动作的对象、参数和影响,而不是继续沿旧计划执行。
恢复不确定或反复无进展时接管。 外部接口超时后,不知道操作是否成功,应先查业务状态;仍无法确定就把记录交给人,不能盲目重试可能重复扣款、发送或重启的动作。相同失败反复出现、工具缺失或预算耗尽,也应提供部分结果和已尝试路径。
不同触发点对应不同处理:补充信息、确认一个具体动作、修改方案、拒绝动作或专家接管。单个动作被拒绝后,流程还可以继续处理不受影响的部分。
让人能快速判断,而不是只弹一个确认框
交接内容至少包含:当前目标、已经查到的证据、已完成与未完成步骤、准备执行的动作和参数、预期影响、备选方案,以及需要人决定的具体问题。能标出原始日志、配置差异或失败请求,处理者就不必重新排查。
例如不要只显示“是否修复”,而应说明“准备把哪个实例的哪个配置从什么值改成什么值,依据是什么,预计影响哪些请求,失败后怎样恢复”。如果只是缺少一项业务参数,就只请求这项信息,不必把整个流程转成审批。
人工反馈与实际执行要绑定同一任务及动作版本。人修改参数后,由执行层再次检查类型、业务状态和权限;人工点击同意不代表可以跳过这些校验。若等待期间目标已经变化,应重新评估该动作,而不是执行过期决定。
暂停与恢复要保存现场,也要防止重复副作用
把任务标为等待输入,并保存状态、动作标识、工具结果和交接信息;等待期间不需要持续让模型空转。根据业务设置超时、取消或转交安排,无人响应不能自动变成同意。
LangGraph 的中断机制就是一种实现:借助 checkpointer 保存图状态,使用同一线程标识和恢复输入继续执行。需要注意,恢复时中断所在节点可能从头运行,因此非幂等副作用不能随意放在中断之前。LangGraph Interrupts
实际业务仍需幂等键、执行记录或去重检查。把发送、转账等动作放到恢复后的独立步骤,可以减少中断重放造成的重复,但不能仅靠节点拆分保证跨系统“恰好一次”。若人已经手动完成修复,应记录结果并验证现场,让 Agent 接着做验收,而不是再修一次。
自动化范围怎样逐步扩大
可以先让 Agent 完成诊断或生成候选方案,用历史任务回放和有限范围运行验证,再按动作类型逐步增加执行能力。重点看任务成功率、错误动作的后果、恢复次数、人工介入是否及时,以及交接材料能否帮助人快速完成处理。
同时观察不必要介入:如果每次常规操作都需要人重新看完整日志,自动化收益会被等待和复核抵消。可以改进验证规则、缩小动作范围或补齐回滚能力,再放开满足条件的场景;不应只追求“人工介入率为零”。
追问:代码生成到上线能完全自动化吗?
可以把有清晰边界的部分自动化,例如局部格式修复、在隔离环境修改代码、运行相关测试和生成可审查 diff。涉及新业务取舍、数据迁移、权限变化或难以恢复的发布,应结合项目已有验证与发布机制判断需要何种人工参与。
预发测试通过只是其中一项证据,不能覆盖测试没有代表的真实流量、数据和依赖差异。对于已有充分覆盖、发布范围受控且能及时发现并回滚的问题,可以提高自动化程度;不能由“Agent 已完成”直接推出所有需求都能上线。
对应教程
- 第 25 章:LangGraph 高级特性:§3 介绍中断、状态持久化、人工输入和恢复,并解释节点重放与副作用位置;本文进一步按业务影响、验收与恢复成本说明哪些地方值得介入。
参考资料
- 国内:JavaGuide:Loop Engineering:依据 CI 排查与适用场景的外部验收、停止和状态机制,说明正文中适合自动闭环的任务条件及恢复不足的限制。
- 国内:Onefly / zero2Agent:容错与可靠性:依据无进展检测、预算与失败处理,说明正文中何时结束自动尝试并交接部分结果和已尝试路径。
- 国内:Spring AI Alibaba:人工介入:依据中断决策与执行生命周期,说明正文中批准、修改、拒绝如何与检查点恢复配合。
- 国外:Anthropic:Building effective agents:采用环境反馈、阻塞时寻求人类判断和明确停止条件,说明正文中自主执行与人工介入的边界。
- 国外:LangGraph:Interrupts:依据暂停、同线程恢复与副作用幂等,说明正文中人工等待为何需要持久状态,以及恢复如何避免重复动作。
相关面经
14 篇字节跳动
前端开发工程师是否了解 Agent 落地应用?
滴滴
Java 开发工程师哪些情况需要人工介入?
理想汽车
IT全栈交付培养生你说 ai-pipeline 这个流程中人只需要在关键节点做决策, 那你这个关键节点怎么定义? 它会给你发消息? 还是停下来? 还是怎么样? 这里是怎么设计的. (ai-pipeline 流程: analyze (analyze_code, analyze_doc) --> inject --> generate --> lint --> review_loop (含fix) --> final_report)
知识科技
数据平台阿里巴巴
AI 全栈开发工程师需求agent怎么接?用户提个需求上去,后面是不是 Agent 自己干完?
展开剩余 9 篇面经
作业帮
Agent 应用开发工程师方案、编码、测试、review,哪些环节需要人介入,还是完全不用人?
深信服
后端开发工程师(AI 网关方向)讲一下对应的Human in the loop 的那个协作模式。
VITURE
Agent 平台开发工程师百度
后端开发工程师(Agent)Skill 可以直接帮助用户修复故障,还是目前只做到诊断?
电信
Go 开发工程师agent能做到所有的需求直接能上线吗?
快手
Agent 应用开发工程师在你的业务场景里,哪些问题适合用 AI 解决,哪些不适合?
深信服
Agent 开发AI全栈人一共介入几次?在哪些节点?
分叉智能科技
AI 解决方案架构师阿里巴巴
AI 应用开发工程师拿到项目到ai工具到交付,怎么验收,哪些环节需要人注意
收录题集
Vibe Coding模拟面试
- 原文作者
- 阿东玩AI




