训练、数据与模型优化:从数据清洗到 LoRA

题集来源:Onefly(ranxi2001)收录项目:zero2Agent查看原题集

题目目录

161 道原题
  1. 你了解哪些多模态大模型?各自的特点?

    原题
  2. Transformer 中梯度消失/爆炸是怎么解决的?

    原题
  3. 在 Agent 多轮对话任务中,标准 Attention 机制的平方复杂度在工程落地上主要引发了哪些问题?

    原题
  4. Token 过长导致的 Attention 稀释现象为什么会导致 Agent 的指令遵循能力下降?

    原题
  5. SFT、蒸馏、GRPO 的技术选型——什么时候用什么?

    原题
  6. GRPO 的 Loss 函数、Advantages 计算与信用分配机制

    原题
  7. vLLM 的 PagedAttention 原理是什么?解决了什么问题?

    原题
  8. DP、DDP、TP、PP——分布式训练并行策略的区别与选型?

    原题
  9. 设计一个训练集构建方案——500 条样本覆盖 200+ 查询模式,如何设计数据生产流?

    原题
  10. GQA 和 MLA 的原理是什么?各自解决什么问题?

    原题