大模型基础面试题
Token 是什么？为什么中文、英文、代码消耗的 Token 不一样？
原题上下文窗口是什么？上下文窗口越大，效果一定越好吗？
原题什么是 Lost in the Middle 问题？长上下文场景下怎么缓解？
原题Temperature、Top-P、Top-K 分别控制什么？生产环境怎么设置更稳？
原题为什么 Temperature 设置为 0，模型输出仍然可能不完全一致？
原题大模型为什么会产生幻觉？常见缓解方案有哪些？
原题Token 预算怎么估算？输入、输出、历史消息、RAG 证据如何取舍？
原题长上下文窗口会不会取代 RAG？二者分别适合什么场景？
原题大模型 API 调用的完整链路是什么？
原题Streaming 为什么能改善用户体验？它能减少总耗时和 Token 成本吗？
原题
暂无题目