AI系统与训练推理工程
【推理框架对比】推理框架对比：SGLang和vLLM在推理服务中分别适合什么场景？Ollama和vLLM区别在哪儿？为何选择vLLM？ 「字节跳动、百度、腾讯混元」
原题【推理框架特点与设计理念】推理框架的特点和设计理念，以及与传统框架不同的地方。 「百度」
原题【推训一致性】推训一致性？ 「蚂蚁集团」
原题【模型上线资源消耗评估】模型上线有多少资源消耗？ 「腾讯」
原题【模型参数量与硬件需求】模型部署相关，说下模型部署的参数量和需求硬件之间的关系 「美团」
原题【模型大小选择】模型大小如何选择？ 「腾讯混元」
原题【模型部署与调优经验】有没有做过模型的部署和调优? 「阿里巴巴」
原题【模型部署经验教训】请分享你在模型部署过程中的经验教训。 「蚂蚁集团」
原题【算子与推理框架关系】是否了解算子和推理框架之间的关系？ 「百度」
原题【系统分层设计】为什么你的系统要分层设计而不是一次性让大模型生成最终业务输出结果？ 「蚂蚁集团」
原题
暂无题目