AI 研究算法工程师面经

科大讯飞（星火-推理工程部）AI Infra 面经分享时间：2026-10-26岗位：AI研究算法工程师 - 大模型训练/推理 Infra 方向部门：资源星火公司 - 推理工程部面试形式：视频面试

🎯 岗位核心画像主要负责基座模型（星火）的推理框架落地。核心工作是基于开源框架（如 vLLM、SGLang）进行适配和优化，解决异构算力（国产算力如昇腾）的部署问题，极度看重底层性能榨取与 AI Coding 提效。

💬 面试问题复盘与考察点拆解

1. 经历深挖：华为 AI Infra 的实践 面试官： 看你简历有在华为做过 AI Infra，主要做了什么？我看你之前的经历可能跟我们现在的推理模型相关。

考察点： 验证你对国产算力生态（昇腾）的熟悉度，以及真实的工程排障能力。

应对思路： 坦诚自己没做过底层源码开发，但重点强调在华为云或昇腾环境下的工程落地、环境适配、OOM排查、压测调优。一定要点出“深刻体会到了开源框架跨平台迁移时算子不兼容、动态 Shape 处理难”的痛点。

1. 核心架构：原生与异构算力的实践 面试官： 聊聊你对原生和异构算力实践的理解。

考察点： 是否理解为什么要做适配，痛点在哪。

应对思路： 原生意指 CUDA 生态成熟，异构则是为了国产自主可控。难点在于底层算子不兼容、显存调度逻辑差异。解法是通过中间层（如 vllm-ascend）抹平差异，并在调度层做资源分配。

1. 资源调度：弹性扩缩容与 GPU 池化 面试官： 从产品角度，你们有哪些弹性扩缩容策略？怎么管理 GPU 资源？

考察点： 宏观的集群资源调度思维。

应对思路：

池化： 提到 MIG（硬件隔离）、时间切片、MPS（多进程服务），分析隔离性与利用率此消彼长的矛盾。

扩缩容： 从定时的“预测驱动”讲到“指标驱动”（推理看重队列深度而非单纯QPS），强调“冷启动”是最大敌人。

结合点： 提到了火山引擎 + HAMi-core 的细粒度配额控制。

1. 框架理解：vLLM 与 SGLang 的对比 面试官： 有没有用过开源框架跑模型？了解里面的模块作用吗？知道推理的瓶颈吗？

考察点： 是否真正看过架构，理解显存与计算的瓶颈。

应对思路：

vLLM： 核心是 PagedAttention（解决显存碎片）和 Continuous Batching（消除 GPU 空转）。

SGLang： 核心是 RadixAttention（基数树管理，解决前缀重复计算）。

瓶颈： Prefill 是 Compute-bound（算力瓶颈），Decode 是 Memory-bound（访存瓶颈）；长上下文带来的 KV Cache 显存爆炸。

实验： 遇到瓶颈不要瞎调，用 Profiling（Nsight/msProf）看时间线。如果是访存打满，去做量化；如果是显存碎片，去调 Block Size。

1. 业务定位：底层引擎、中间服务与上层产品 面试官： 我们提供底层引擎（抠算力、降成本），中间做云原生弹性服务，上层出 API 和 AI 产品，你觉得哪个和你契合？

考察点： 稳定性测试！面试官极度害怕候选人嫌底层苦，干两月跑去业务线。

应对思路： 强烈表态留在底层引擎。告诉面试官，正因为懂产品对延迟和成本的敏感度，才更要在底层把算力榨干。上层 API 是壳，底层引擎才是定价权。

1. 前沿视野：对 AI Coding 的看法 面试官： 我们很看重算力和 AI Coding，你怎么看？

考察点： 是否拥抱新工具，能否利用 AI 提升底层开发的脏活累活效率。

应对思路： AI Coding 在 Infra 领域能极大提效。比如：辅助 CUDA 到 CANN 的算子翻译、生成海量 Benchmark 压测脚本、辅助分析又臭又长的底层报错日志。