推理与解码

本分类共 8 个专题 · 1061 道题

4798

LLM 如何通过结束 Token 和运行时条件停止生成？

模型基础与推理推理与解码

原理机制

基础

暂无面经 2 份题集

4799

Stop Token 与 Stop Sequence 有什么区别？

模型基础与推理推理与解码

比较选型

基础

暂无面经 1 份题集

5740

Test-Time Scaling 如何用推理计算换取质量，有哪些收益边界？

模型基础与推理推理与解码

原理机制

进阶

暂无面经 5 份题集

5786

SGLang 的前端 DSL 如何表达结构化生成与分支程序？

模型基础与推理推理与解码

原理机制

进阶

暂无面经 1 份题集

6091

实现草稿生成、主模型验证与拒绝修正的投机解码。

模型基础与推理推理与解码

代码题

深入

暂无面经 1 份题集

6277

扩散语言模型如何选择分块、去噪步数和解码停止策略？

模型基础与推理推理与解码

操作实践

进阶

暂无面经 1 份题集

6346

什么是 Overthinking，如何识别并控制过度推理？

模型基础与推理推理与解码

故障排查

进阶

暂无面经 3 份题集

6829

Token 信息熵能否识别推理关键节点，如何验证？

模型基础与推理推理与解码

原理机制

深入

暂无面经 1 份题集