返回全部题目← 上一题84 / 121下一题 →题库/AI 应用工程与治理/Q-4649工具参数通过 JSON Schema 后，为什么仍需业务校验与权限检查？知识专题：安全、权限与人工介入题目类型：方案设计技术难度：进阶收录题集：6 份暂无参考答案未标记未标记待复习已掌握收藏询问 AI选择 AI 平台KimiKimi（新窗口打开）Qwen千问（新窗口打开）OpenAIChatGPT（新窗口打开）自动带入当前题目本题目录收录题集相关题目收录题集6 份SFT与指令微调阿东玩 AI · AgentGuide · 1 条原题查看题集 →【ToolCall数据构建与幻觉控制】说只build过一个关于crop image toolcall的SFT数据集，怎么控制crop的坐标，LLM在这个坐标上面会引入幻觉吗（导致toolcall的代码崩溃），怎么控制。 「字节跳动」百度高频面试题Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →如果 Agent 在调用工具时出现参数类型正确但业务含义错误，如何发现并阻止？AI 机制与工程问答Guide · JavaGuide · 2 条原题查看题集 →工具调用为什么必须做安全治理为什么 Function Calling 有 Schema 仍然不安全？Agent 机制与项目追问Guide · JavaGuide · 1 条原题查看题集 →工具调用为什么不能只看模型输出？AI 系统设计面试题Guide · JavaGuide · 1 条原题查看题集 →模型生成的结构化参数通过 Schema 校验后，为什么还不能直接执行？展开剩余 1 份题集大模型基础面试题Guide · JavaGuide · 1 条原题查看题集 →模型生成退款工具的调用参数后，业务系统还需要执行哪些校验？相关题目4 题0055哪些任务适合交给 Agent 自动完成，怎样设置人工介入边界？同一知识专题题目类型：方案设计技术难度：进阶相关面经：11 篇0114Harness 如何设计安全和权限边界？同一知识专题题目类型：系统设计技术难度：进阶相关面经：8 篇0132内网数据存放在哪里，如何防止数据泄露？同一知识专题题目类型：系统设计技术难度：进阶相关面经：4 篇0271Agent 如何抵御工具返回内容中的间接提示注入？同一知识专题题目类型：方案设计技术难度：进阶相关面经：2 篇♥♥♥♥♥← 上一题已到最后一题← 上一题如何对 Agent 系统实施覆盖多种攻击面的红队测试？下一题 →AI 应用的 PII 脱敏应部署在输入、日志、模型调用和输出的哪些环节？
