模型服务、部署与交付

本分类共 10 个专题 · 1023 道题

已筛选

共 111 道题

排序:

5772
端侧 AI 平台通常由哪些模块组成,如何评估模型适配?
AI 应用工程与治理模型服务、部署与交付
概念解释
进阶
5773
端侧图像处理应如何选择传统算法与深度学习模型?
AI 应用工程与治理模型服务、部署与交付
技术决策
进阶
5779
如何使用 nvidia-smi 等工具观测和诊断 GPU 资源状态?
AI 应用工程与治理模型服务、部署与交付
故障排查
进阶
5781
模型中间表示与 AOT、JIT 编译在部署中起什么作用?
AI 应用工程与治理模型服务、部署与交付
原理机制
进阶
5782
容器中的模型服务启动或运行异常时如何排查?
AI 应用工程与治理模型服务、部署与交付
故障排查
进阶
5783
大模型与传统深度学习模型的推理和服务化有什么差异?
AI 应用工程与治理模型服务、部署与交付
比较选型
进阶
5784
ONNX Runtime 如何选择执行后端并优化模型运行?
AI 应用工程与治理模型服务、部署与交付
原理机制
进阶
5785
如何配置并调优大模型推理服务的资源和并发参数?
AI 应用工程与治理模型服务、部署与交付
操作实践
进阶
5787
模型推理的功耗与能效应如何度量?
AI 应用工程与治理模型服务、部署与交付
效果评估
进阶
5788
在线与离线性能剖析有何区别,采样、插桩和 Trace 如何选择?
AI 应用工程与治理模型服务、部署与交付
比较选型
进阶