AI系统与训练推理工程
【线上推理流程】介绍线上推理流程。 「百度」
原题【线上部署性能问题】线上部署时有没有遇到性能问题? 「京东」
原题【自动回滚恢复】如何自动检测并进行回滚恢复？ 「字节跳动」
原题【训推分离收益】训推分离有什么收益? 「字节跳动」
原题原题未给训推分离的具体场景，本条仅关联训练与推理执行职责的区别。
【配置管理模块实现】实现配置管理模块，后端模型服务可使用Mock。 「蚂蚁集团」
原题【AI平台安全】请描述一个你处理过的AI平台安全问题的案例，以及你的解决方案。 「京东」
原题【K8s算力调度与数据适配】如果不同业务部门的数据格式依赖偏好不同，怎么做在k8s里做算力调度支持？ 「阿里巴巴」
原题【K8s部署大模型挑战】在Kubernetes上部署AI大模型遇到的最大挑战是什么，如何解决？ 「腾讯」
原题【PD分离与混合部署】详细讲PD分离。推理框架层的问题，PD混合怎么做？ 「美团、阿里巴巴」
原题【Router机制】router以什么方式存在？其启动方式及数据流到来时的具体处理流程（包括函数名）是什么？router的策略是什么？ 「字节Seed」
原题来源未说明 Router 所属的实现与版本。
暂无题目