模型基础与推理

本分类共 8 个专题 · 1061 道题

已筛选

共 1061 道题

排序:

4591
Softmax 是什么,在 Transformer 的哪些位置使用?
模型基础与推理Transformer 与注意力
原理机制
基础
4592
LayerNorm 在 Transformer 中有什么作用,通常放在哪里?
模型基础与推理Transformer 与注意力
原理机制
进阶
4594
Transformer 与 RNN 在建模长距离依赖时有什么区别?
模型基础与推理Transformer 与注意力
比较选型
进阶
4596
大模型训练与推理有什么区别?
模型基础与推理推理与解码
比较选型
基础
4598
LLM 批量推理与单请求推理有什么区别,为什么能提升吞吐?
模型基础与推理推理优化与模型压缩
比较选型
基础
4599
LLM Serving 中如何权衡吞吐量与请求时延?
模型基础与推理推理优化与模型压缩
比较选型
进阶
4603
Beam Search 与贪心解码有什么区别,Beam Width 如何影响计算与结果?
模型基础与推理推理与解码
比较选型
进阶
4608
Temperature 如何影响 Token 概率分布与生成结果?
模型基础与推理推理与解码
原理机制
基础
4609
自回归文本生成有哪些优势和局限?
模型基础与推理推理与解码
比较选型
进阶
4610
扩散式语言模型与自回归语言模型的文本生成机制有什么区别?
模型基础与推理推理与解码
比较选型
进阶