公司案例问答汇编
DPO相比 SFT,有哪些优劣?它在 Agent 任务上效果提升明显吗?
你怎么构造偏好对?构造逻辑是自动的还是人工?
原题完整原题
DPO相比 SFT,有哪些优劣?它在 Agent 任务上效果提升明显吗?你怎么构造偏好对?构造逻辑是自动的还是人工?
你说你服务部署在 vLLM 上,为何选择它?KV-cache 如何帮助推理加速?
你自己做过哪些优化?
原题完整原题
你说你服务部署在 vLLM 上,为何选择它?KV-cache 如何帮助推理加速?你自己做过哪些优化?
假如需要支持 Streaming 输出,但当前服务延迟又超标,你会怎么折中设计?
原题训练过程中数据来自用户行为日志,你是如何从这些数据中抽取训练对话的?有没有做过归一化或事件抽象?
原题有没有了解过带有时间窗口/偏移限制的对话系统?模型怎么"理解时间"?
原题来源未定义“时间窗口/偏移限制”的具体时间语义、输入或算法。
八股:LoRA 微调原理?训练时调过哪些超参数?有什么经验?
原题八股:SFT 的 loss 如何只计算回答部分?(如何 ignore padding token?)
原题八股:Attention 计算中有哪些显存优化策略?(如 KV Cache 复用、batch 拼接)
原题八股:分布式训练中 Zero-2 和 Zero-3 的核心区别是什么?
原题八股:Transformer 为什么用 LayerNorm 而不是 BatchNorm?
原题
暂无题目