已筛选

共 6433 道题

排序:

4159
系统平均耗时指标如何拆解到各链路环节?
AI 应用工程与治理性能、时延与成本
项目深挖
进阶
4162
MLA 相比 MHA 有什么优势和代价?
模型基础与推理模型架构与表示
比较选型
进阶
4163
MLA 做权重吸收时可能遇到哪些问题,如何处理?
模型基础与推理推理优化与模型压缩
故障排查
深入
4164
KV Cache 如何离线预计算,并对低频缓存进行卸载和加载?
模型基础与推理推理优化与模型压缩
系统设计
深入
4165
KV Cache 还有哪些常见优化技巧?
模型基础与推理推理优化与模型压缩
开放讨论
—
4166
模型蒸馏数据如何构造和清洗?
模型训练与对齐蒸馏与模型合并
项目深挖
进阶
4167
什么是训练推理一致性,如何发现并缩小两阶段差异?
模型训练与对齐训练框架、调参与排障
原理机制
深入
4168
模型量化如何实施,为什么选择 GPTQ、QAT 或 W8A16?
模型基础与推理推理优化与模型压缩
比较选型
深入
4169
GAE 优势函数如何计算,关键参数有什么作用?
模型训练与对齐强化学习与奖励
原理机制
深入
4170
合并 K 个升序链表。
算法与编程题链表、栈与队列
代码题
进阶