模型服务、部署与交付

本分类共 10 个专题 · 1023 道题

已筛选

共 111 道题

排序:

4982
生产环境如何管理模型版本,并安全切换和回滚?
AI 应用工程与治理模型服务、部署与交付
方案设计
进阶
4983
Feature Flag 在 AI 功能部署中有什么作用,如何组织开关与回退?
AI 应用工程与治理模型服务、部署与交付
原理机制
进阶
4987
Ollama 如何管理本地模型并提供推理服务?
AI 应用工程与治理模型服务、部署与交付
原理机制
基础
5008
Model Card 是什么,应该如何记录模型能力、限制与使用条件?
AI 应用工程与治理模型服务、部署与交付
概念解释
基础
5043
如何优化大模型在边缘设备与移动端的推理?
AI 应用工程与治理模型服务、部署与交付
方案设计
进阶
5044
多个模型共享 GPU 时,如何管理显存与模型驻留?
AI 应用工程与治理模型服务、部署与交付
系统设计
深入
5045
Serverless AI 部署如何降低冷启动时延?
AI 应用工程与治理模型服务、部署与交付
方案设计
进阶
5111
AI 应用平台自托管与云托管应如何选择?
AI 应用工程与治理模型服务、部署与交付
比较选型
进阶
5188
AgentOps、LLMOps 与 MLOps 的运维对象和职责有什么区别?
AI 应用工程与治理模型服务、部署与交付
比较选型
进阶
5524
如何设计兼顾吞吐、首 Token 延迟与租户公平性的推理调度器?
AI 应用工程与治理模型服务、部署与交付
系统设计
进阶