模型基础与推理

本分类共 8 个专题 · 1061 道题

已筛选

共 1061 道题

排序:

4595
Transformer 中逐位置前馈网络 FFN 有什么作用?
模型基础与推理Transformer 与注意力
原理机制
基础
4607
大模型推理中,大上下文窗口与小上下文窗口各有什么优缺点?
模型基础与推理推理与解码
比较选型
进阶
4695
Transformer 的 Attention 与 MLP 参数量如何分布,哪些条件决定占比?
模型基础与推理模型架构与表示
原理机制
进阶
4716
什么是 Prefill 与 Decode 分离,为什么要分离部署?
模型基础与推理推理优化与模型压缩
原理机制
进阶
5164
ASR 如何把语音转换为文本?
模型基础与推理多模态与生成模型
原理机制
进阶
6169
如何评估 ASR 识别质量,并改善术语、同音字和转写错误?
模型基础与推理多模态与生成模型
效果评估
进阶
6633
概率论的核心概念如何用于模型训练?
模型基础与推理机器学习与推荐系统
概念解释
基础
6658
DFlash 如何用块扩散草稿模型加速投机解码?
模型基础与推理推理与解码
原理机制
进阶
6659
Mamba 的递归状态如何保存历史信息,能否由状态恢复完整输入?
模型基础与推理模型架构与表示
原理机制
进阶
3686
大模型常见解码策略有哪些,贪心、Beam Search 与采样如何选择?
模型基础与推理推理与解码
比较选型
进阶