如何验证抑制模型幻觉策略的有效性？
暂无参考答案
未标记
询问 AI
本题目录
相关面经
1 篇腾讯混元
后台开发实习一面
对这个策略的有效性验证怎么样？
收录题集
幻觉与安全
什么是大模型幻觉？ 什么是大模型幻觉？包括复读机问题（重复生成内容）和胡说八道的原因。 如何减轻幻觉问题？具体方法包括：RLHF、SFT后出现幻觉的可能原因及处理、后训练减少脱离人设的幻觉、MCP工具较多时避免幻觉、LMM中解决图中没有但模型乱说的情况、通过算法规避虚假图文和隐私泄露、对抗性测试/红队攻击发现安全漏洞、后训练在安全合规中的作用。
大模型幻觉相关问题： 「京东、字节跳动、美团、腾讯、蚂蚁集团、阿里巴巴、阿里通义」