模型服务、部署与交付

本分类共 10 个专题 · 1193 道题

已筛选

共 126 道题

排序:

4987
Ollama 如何管理本地模型并提供推理服务?
AI 应用工程与治理模型服务、部署与交付
原理机制
基础
5044
多个模型共享 GPU 时,如何管理显存与模型驻留?
AI 应用工程与治理模型服务、部署与交付
系统设计
深入
5045
Serverless AI 部署如何降低冷启动时延?
AI 应用工程与治理模型服务、部署与交付
方案设计
进阶
5111
AI 应用平台自托管与云托管应如何选择?
AI 应用工程与治理模型服务、部署与交付
比较选型
进阶
5188
AgentOps、LLMOps 与 MLOps 的运维对象和职责有什么区别?
AI 应用工程与治理模型服务、部署与交付
比较选型
进阶
5609
如何设计覆盖训练、模型服务与算力治理的生产 AI Infra 平台?
AI 应用工程与治理模型服务、部署与交付
系统设计
深入
5673
视觉语言模型如何把不同分辨率图像和不等长视频组织到同一批次?
AI 应用工程与治理模型服务、部署与交付
原理机制
进阶
5747
如何评估模型压缩与轻量化的实际效果?
AI 应用工程与治理模型服务、部署与交付
效果评估
进阶
5754
推理框架提供哪些核心能力,常见框架如何选型?
AI 应用工程与治理模型服务、部署与交付
比较选型
进阶
5755
移动端和边缘设备推理框架如何选型?
AI 应用工程与治理模型服务、部署与交付
比较选型
进阶