返回全部题目← 上一题65 / 111下一题 →题库/AI 应用工程与治理/Q-5044多个模型共享 GPU 时，如何管理显存与模型驻留？知识专题：模型服务、部署与交付题目类型：系统设计技术难度：深入收录题集：4 份暂无参考答案未标记未标记待复习已掌握收藏询问 AI选择 AI 平台KimiKimi（新窗口打开）Qwen千问（新窗口打开）OpenAIChatGPT（新窗口打开）自动带入当前题目本题目录收录题集相关题目收录题集4 份AI 基础设施AMIT SHEKHAR · ai-engineering-interview-questions · 1 条原题查看题集 →How do you manage GPU memory for serving multiple models?模型部署基础概念Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →如何将AI模型缓存到内存中，这么做有什么好处？推理框架知识点Rocky Ding · AIGC-Interview-Book · 2 条原题查看题集 →如何将ONNX模型从GPU切换到CPU中进行缓存？如何构建TensorRT模型的缓存机制？图像创作 · AIGC图像生成框架基础Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →ComfyUI的动态显存（Dynamic VRAM）机制是什么？（进阶）相关题目4 题0079GUI Agent 或 Browser Use 在项目中如何部署？同一知识专题题目类型：项目深挖技术难度：深入相关面经：1 篇0107项目如何从本地部署到云端并完成上线？同一知识专题题目类型：系统设计技术难度：进阶相关面经：15 篇0285如何提升模型回答的性能？同一知识专题题目类型：方案设计技术难度：进阶相关面经：1 篇0448Redis、RabbitMQ 在 Windows 和 Linux 如何部署并验证配置加载？同一知识专题题目类型：操作实践技术难度：进阶相关面经：1 篇♥♥♥♥♥← 上一题已到最后一题← 上一题如何优化大模型在边缘设备与移动端的推理？下一题 →Serverless AI 部署如何降低冷启动时延？
