已筛选

共 6433 道题

排序:

6877
运行时如何通过内存池、复用与原地计算降低分配开销?
AI 应用工程与治理模型服务、部署与交付
方案设计
深入
6878
FlashDecoding 如何并行长 KV 序列,与 FlashAttention 有何区别?
模型基础与推理推理优化与模型压缩
比较选型
深入
6879
张量程序优化中,模板化调度与自动生成搜索空间应如何取舍?
AI 应用工程与治理模型服务、部署与交付
比较选型
深入
6880
实现含校准与伪量化的低比特权重训练流程。
算法与编程题并发、文件与工程编码
代码题
深入
6881
量化推理运行时如何设计权重表示、算子接口与正确性验证?
AI 应用工程与治理模型服务、部署与交付
方案设计
深入
6882
低比特量化 GEMM 如何融合解包、反量化与矩阵乘来提高效率?
模型基础与推理推理优化与模型压缩
原理机制
深入
6883
CUDA Constant Memory 如何工作,适用于哪些访问模式?
模型训练与对齐分布式训练与计算硬件
原理机制
深入
6884
CUDA Context 管理哪些设备状态,与进程、线程和 Stream 有何关系?
模型训练与对齐分布式训练与计算硬件
原理机制
深入
6885
CPU 的指令级、数据级与线程级并行有何区别?
软件工程基础性能与容量工程
比较选型
深入
6886
CUDA Register Spill 如何发生,怎样权衡寄存器、占用率和访存?
模型训练与对齐分布式训练与计算硬件
原理机制
深入