AI 评测算法一面面经
完整信息
本篇目录
开场面试官主动介绍岗位,做的是后训练阶段、办公场景,包括数据合成、评测集构建、judge 设计这些内容
- 自我介绍,项目被要求要求只讲与岗位最相关的 1-2 个
- 重点被追问了一个项目的痛点、pipeline、方法原理、评测集构建、与已有 benchmark 区别
- 技术题:
① 用过哪些 harness、选一个讲原理。答:详述了 Codex 的 Agent Loop;
② 接触过 GDPval-AA 吗(真实工作场景评测集)。答:没接触
③ 追问评测从输入到产出的完整链路
④ 提问沙箱机制(模型 API 在容器内还是外、工具在内还是外)。只答出审批/规则型沙箱 - AI Coding 练习:
① 现场和 AI 对话探索 GDPval-AA,回答 是什么+源码 → 官方 rollout harness → rollout 如何执行、如何拿产出
② “API 在容器外、工具在容器内”怎么理解。答容器无状态、只是工作载体,结构化产出输出到容器外,便于快速启停。(其实还有可复用、防 hack、安全等方面) - 日常手写还是 AI 写代码。答几乎全 AI(不然呢),学习时手写。
反问阶段:
- 你们用 AI 推进多个项目时,怎么做注意力分配。答一人最多并行两三个,主力 1-2 个,其余试验性调研
本篇目录
当前问题0110
- 01
自我介绍,项目被要求要求只讲与岗位最相关的 1-2 个
- 02
重点被追问了一个项目的痛点、pipeline、方法原理、评测集构建、与已有 benchmark 区别
- 03
用过哪些 harness、选一个讲原理。答:详述了 Codex 的 Agent Loop;
- 04
接触过 GDPval-AA 吗(真实工作场景评测集)。答:没接触
- 05
追问评测从输入到产出的完整链路
- 06
提问沙箱机制(模型 API 在容器内还是外、工具在内还是外)。只答出审批/规则型沙箱
- 07
现场和 AI 对话探索 GDPval-AA,回答 是什么+源码 → 官方 rollout harness → rollout 如何执行、如何拿产出
- 08
“API 在容器外、工具在容器内”怎么理解。答容器无状态、只是工作载体,结构化产出输出到容器外,便于快速启停。(其实还有可复用、防 hack、安全等方面)
- 09
日常手写还是 AI 写代码。答几乎全 AI(不然呢),学习时手写。
- 10
你们用 AI 推进多个项目时,怎么做注意力分配。答一人最多并行两三个,主力 1-2 个,其余试验性调研