已筛选

共 6433 道题

排序:

5036
Google TPU 如何加速深度学习计算?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
5037
Groq LPU 的架构如何支持语言模型推理?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
5038
如何用 Roofline 模型估算 70B 模型在单张 H100 上、批量为 1 时的解码吞吐?
模型训练与对齐分布式训练与计算硬件
原理机制
深入
5039
Medusa 如何通过多个解码头加速大模型生成?
模型基础与推理推理优化与模型压缩
原理机制
深入
5040
EAGLE 如何通过特征层面的投机解码加速生成?
模型基础与推理推理优化与模型压缩
原理机制
深入
5041
N-gram 投机解码如何利用已有文本提出候选并加速生成?
模型基础与推理推理优化与模型压缩
原理机制
进阶
5042
GGUF 如何组织模型权重与元数据并支持推理加载?
模型基础与推理推理优化与模型压缩
原理机制
进阶
5043
如何优化大模型在边缘设备与移动端的推理?
AI 应用工程与治理模型服务、部署与交付
方案设计
进阶
5044
多个模型共享 GPU 时,如何管理显存与模型驻留?
AI 应用工程与治理模型服务、部署与交付
系统设计
深入
5045
Serverless AI 部署如何降低冷启动时延?
AI 应用工程与治理模型服务、部署与交付
方案设计
进阶