模型基础与推理

本分类共 8 个专题 · 1061 道题

已筛选

共 1061 道题

排序:

4614
什么是连续批处理,与静态批处理有什么区别?
模型基础与推理推理优化与模型压缩
比较选型
进阶
4615
大模型推理为什么使用混合精度,它有哪些收益与限制?
模型基础与推理推理优化与模型压缩
原理机制
进阶
4617
现代 GPU 上的大模型推理流水线有哪些主要性能瓶颈?
模型基础与推理推理优化与模型压缩
原理机制
进阶
4670
什么是大模型的涌现能力,如何判断它与模型规模的关系?
模型基础与推理模型选型与能力边界
概念解释
进阶
4671
ViT 与 CNN 在图像特征提取上有什么优劣,各适合什么条件?
模型基础与推理多模态与生成模型
比较选型
进阶
4672
什么是对比学习,InfoNCE 损失如何计算并发挥作用?
模型基础与推理机器学习与推荐系统
原理机制
进阶
4675
BLIP、BLIP-2 的主要创新是什么,与 Flamingo 有哪些区别?
模型基础与推理多模态与生成模型
比较选型
深入
4681
稀疏注意力如何降低计算复杂度,常见连接模式有哪些?
模型基础与推理Transformer 与注意力
原理机制
进阶
4684
vLLM 通过哪些机制提高大模型推理效率?
模型基础与推理推理优化与模型压缩
原理机制
进阶
4685
模型量化后理解能力下降,应如何定位并补偿精度损失?
模型基础与推理推理优化与模型压缩
故障排查
进阶