训练、数据与模型优化:从数据清洗到 LoRA

题集来源:Onefly(ranxi2001)收录项目:zero2Agent查看原题集

题目目录

161 道原题
  1. 外部模型参数更大,14B 在 Agent 层面会不会不够?

    原题
  2. 对 Rerank 模型进行了蒸馏,蒸馏的数据是什么样的?训练数据大概有多少条?

    原题
  3. BERT 和 GPT 架构的区别是什么?

    原题
  4. 为什么现在的大模型都是 Decoder-only 架构?

    原题
  5. 如果训练一个 AI Coding Agent,是端到端训练还是分阶段训练?

    原题
  6. 客服 Agent 的奖励函数有 Reward Hacking、稀疏、区分度太大(只有完全正确和错误)三个问题,请设计新的 reward 解决至少两个。

    原题
  7. 多轮 Agent 的 RL reward 怎么设计?Turn 级信用分配怎么做?

    原题
  8. 多轮对话 Agent 没有现成对话数据,如何从 UI 操作流合成 SFT 训练语料?

    原题
  9. Transformer 的整体架构、核心模块与实现流程是什么?

    原题
  10. 训练后量化的完整流程是什么?粒度、校准方法和离群值如何共同影响精度?

    原题