模型服务、部署与交付

本分类共 10 个专题 · 1909 道题

6838

如何将训练模型接入仿真平台并验证目标场景中的行为？

AI 应用工程与治理模型服务、部署与交付

方案设计

进阶

暂无面经 1 个题集来源

6877

运行时如何通过内存池、复用与原地计算降低分配开销？

AI 应用工程与治理模型服务、部署与交付

方案设计

深入

暂无面经 1 个题集来源

6879

张量程序优化中，模板化调度与自动生成搜索空间应如何取舍？

AI 应用工程与治理模型服务、部署与交付

比较选型

深入

暂无面经 1 个题集来源

6900

多租户模型服务如何按需加载并快速切换大量 LoRA 适配器？

AI 应用工程与治理模型服务、部署与交付

系统设计

深入

暂无面经 1 个题集来源

7043

Spring AI 服务如何实现预热，预热应验证哪些内容？

AI 应用工程与治理模型服务、部署与交付

方案设计

进阶

暂无面经 1 个题集来源

7481

多卡部署模型时，如何排查精度不一致的问题？

AI 应用工程与治理模型服务、部署与交付

故障排查

进阶

7597

使用过哪些 AI Infra 工具，各解决什么问题？

AI 应用工程与治理模型服务、部署与交付

经历介绍

—

7767

大模型网关如何覆盖全公司调用，绕过内部 SDK 直连模型时怎样治理？

AI 应用工程与治理模型服务、部署与交付

方案设计

进阶

7768

同一模型支持多种接口协议时，网关如何区分、选择和适配？

AI 应用工程与治理模型服务、部署与交付

方案设计

进阶

7907

项目或实习使用什么计算加速设备，分别承担哪些工作？

AI 应用工程与治理模型服务、部署与交付

项目深挖

基础