容错与鲁棒性面试题

题集来源:Onefly(ranxi2001)收录项目:zero2Agent查看原题集

题目目录

38 道原题
  1. Agent 如何减少幻觉?在工业场景下怎么做?

    原题
  2. 执行到一半,比如调支付接口超时了,Agent 怎么处理?

    原题
  3. 你怎么设计 Agent 的失败恢复机制?

    原题
  4. 如果 Agent 的决策出错了,比如错误删除了数据,系统设计上怎么防范?

    原题
  5. 你会如何限制 Agent 的思考深度、工具调用次数和递归层级,避免无限循环?

    原题
  6. 幻觉的各种治理手段,优缺点分别是什么?行为限制在什么阶段做?

    原题
  7. 如果 Agent 在中间步骤已经偏了,但表面上还能继续执行,你怎么尽早发现?

    原题
  8. Agent 执行 shell 命令怎么保证安全?还有哪些安全问题?

    原题
  9. Prompt 注入攻击如何防御?

    原题
  10. 工具调用的安全控制是怎么实现的?如何限制模型调用敏感接口?

    原题