模型基础与推理

本分类共 8 个专题 · 1145 道题

9301

对称与非对称量化、按张量与按通道量化有什么区别？

模型基础与推理推理优化与模型压缩

比较选型

进阶

9302

训练后量化 PTQ 与量化感知训练 QAT 有什么区别，各有什么代价？

模型基础与推理推理优化与模型压缩

比较选型

进阶

9303

模型在电脑上正常、部署到板子后结果异常时，如何排查？

模型基础与推理推理优化与模型压缩

故障排查

进阶

9304

模型推理中如何减少输入、输出及中间数据的搬运？

模型基础与推理推理优化与模型压缩

方案设计

进阶

9306

多个模型同时运行时，如何安排执行顺序和计算资源？

模型基础与推理推理优化与模型压缩

方案设计

进阶

9615

困惑度的含义是什么，语言模型预训练还使用哪些概率类评估指标？

模型基础与推理推理与解码

原理机制

进阶

9619

MoE 专家分工与流水线处理在结构和执行上有什么区别？

模型基础与推理模型架构与表示

比较选型

进阶

9621

视觉语言模型的 Adapter 有哪些类型，Q-Former 如何工作？

模型基础与推理多模态与生成模型

原理机制

进阶

9622

图像生成模型有哪些主要技术架构，如何比较各自的迭代路线？

模型基础与推理多模态与生成模型

比较选型

进阶

9623

为代码补全 Agent 设计 Tokenizer 时，需要处理哪些问题？

模型基础与推理Tokenizer 与位置编码

方案设计

进阶