Agent安全评测与AgentOps

题集来源:Rocky Ding(WeThinkIn)收录项目:AIGC-Interview-Book查看原题集

题目目录

28 道原题
  1. Agent 的行动能力如何改变风险与评测对象?

    原题
  2. Agent 的风险边界和 Chatbot 有什么区别?

    原题
  3. Agent 评测为什么不能只看最终答案对不对?

    原题
  4. AgentOps 和 MLOps / LLMOps 有什么区别?

    原题
  5. Guardrails 应如何分层覆盖执行过程?

    原题
  6. 输入、输出、工具、状态四类 Guardrails 如何设计?

    原题
  7. Prompt Injection 在 Agent 系统中为什么更危险?

    原题
  8. 工具权限、沙箱和人工审批如何协同?

    原题
  9. 如何设计 Agent 的最小权限体系?

    原题
  10. 如何同时衡量 Agent 的结果、过程和代价?

    原题