模型基础与推理

本分类共 8 个专题 · 1061 道题

已筛选

共 1061 道题

排序:

4885
流水线并行推理时,如何减少设备空闲并提高利用率?
模型基础与推理推理优化与模型压缩
方案设计
深入
4891
大模型推理时显存持续增加或请求结束后仍被占用,如何解释和排查?
模型基础与推理推理优化与模型压缩
故障排查
进阶
4892
大模型在 CPU 与 GPU 上的推理速度有何差异,取决于哪些条件?
模型基础与推理推理优化与模型压缩
比较选型
进阶
4893
大语言模型具备怎样的逻辑推理能力,又有哪些局限?
模型基础与推理模型选型与能力边界
开放讨论
—
4915
什么是重要性采样,它如何修正不同分布下的期望估计?
模型基础与推理机器学习与推荐系统
原理机制
进阶
4928
语言模型是什么,如何为 Token 序列定义概率?
模型基础与推理模型架构与表示
概念解释
基础
4929
MoE 专家在训练中如何形成分工与专业化?
模型基础与推理模型架构与表示
原理机制
进阶
4932
Word2Vec 等静态词向量与 BERT 上下文表示有什么区别?
模型基础与推理模型架构与表示
比较选型
进阶
4933
BERT 常见的 512 Token 输入限制由哪些配置和训练条件决定?
模型基础与推理Tokenizer 与位置编码
原理机制
进阶
4934
ELMo 与 BERT 如何利用双向上下文,二者有什么区别?
模型基础与推理模型架构与表示
比较选型
进阶