AI系统与训练推理工程
【Token成本控制】如何控制AI业务的Token成本？从分块、提示词、缓存、模型选型多维度说明。 「阿里通义」
原题【vLLM启动参数】VLLM启动服务时到底会传哪些常见参数？ 「百度」
原题【vLLM请求调度】VLLM作为服务框架，提出的请求调度机制主要解决了什么问题？ 「百度」
原题【代码沙箱执行】代码(沙箱)是怎么执行的，是本地吗？怎么确保代码执行的环境存在？ 「蚂蚁集团」
原题【可观测性维度】日志、链路追踪、指标监控覆盖哪些维度？ 「美团」
原题【向量化服务要求】向量化服务是整个流程的关键环节之一，你认为向量化服务需要满足哪些性能或质量要求？ 「美团」
原题【向量数据库选型】为什么选择Milvus，有没有了解其他向量数据库？ 「京东」
原题【多模态模型部署经验】你有过将多模态模型部署到生产环境的经历吗？ 「京东」
原题【大模型工程难点】大模型应用开发中，你认为最大的工程难点是什么？ 「美团」
原题【异常fallback策略】是否有异常fallback策略？ 「阿里巴巴」
原题
暂无题目