如何对 Agent 系统实施覆盖多种攻击面的红队测试？

什么是大模型幻觉？ 什么是大模型幻觉？包括复读机问题（重复生成内容）和胡说八道的原因。 如何减轻幻觉问题？具体方法包括：RLHF、SFT后出现幻觉的可能原因及处理、后训练减少脱离人设的幻觉、MCP工具较多时避免幻觉、LMM中解决图中没有但模型乱说的情况、通过算法规避虚假图文和隐私泄露、对抗性测试/红队攻击发现安全漏洞、后训练在安全合规中的作用。

• 对抗性测试/红队攻击发现安全漏洞、

• 编码 Agent 安全评测应重点覆盖什么？

• 浏览器 / GUI Agent 安全评测应重点覆盖什么？

• 企业客服 / 办公 Agent 安全评测应重点覆盖什么？

• 安全测试应该覆盖哪些 Badcase？

• 如何对自己的 Agent 做系统化红队测试，而不是只测 Prompt Injection？