返回全部题目← 上一题80 / 121下一题 →题库/AI 应用工程与治理/Q-4528什么是红队测试，它如何发现 LLM 和 Agent 的安全漏洞与偏见？知识专题：安全、权限与人工介入题目类型：概念解释技术难度：进阶收录题集：4 份暂无参考答案未标记未标记待复习已掌握收藏询问 AI选择 AI 平台KimiKimi（新窗口打开）Qwen千问（新窗口打开）OpenAIChatGPT（新窗口打开）自动带入当前题目本题目录收录题集相关题目收录题集4 份模型与 Agent 评估面试题阿东玩 AI · AgentGuide · 1 条原题查看题集 →什么是红队测试？它在发现 LLM 和 Agent 的安全漏洞与偏见方面扮演着什么角色？模型与应用评测AMIT SHEKHAR · ai-engineering-interview-questions · 2 条原题查看题集 →What is red teaming, and how do you red team an LLM application?How do you structure red teaming for an LLM chatbot before launch?模型评估：多维评估大语言模型Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →如何系统评估模型的有害性？如何做红队测试？LLM、VLM 与 Agent 面试题Datawhale · hello-agents · 1 条原题查看题集 →什么是红队测试？它在发现 LLM 和 Agent 的安全漏洞与偏见方面扮演着什么角色？相关题目4 题0055哪些任务适合交给 Agent 自动完成，怎样设置人工介入边界？同一知识专题题目类型：方案设计技术难度：进阶相关面经：11 篇0114Harness 如何设计安全和权限边界？同一知识专题题目类型：系统设计技术难度：进阶相关面经：8 篇0132内网数据存放在哪里，如何防止数据泄露？同一知识专题题目类型：系统设计技术难度：进阶相关面经：4 篇0271Agent 如何抵御工具返回内容中的间接提示注入？同一知识专题题目类型：方案设计技术难度：进阶相关面经：2 篇♥♥♥♥♥← 上一题已到最后一题← 上一题AI 工作流有哪些与节点、状态和恢复机制相关的安全风险？下一题 →构建高度个性化的 Agent 时，如何平衡效果、隐私和安全？
