SFT与指令微调

题集来源:阿东玩 AI(Adong)收录项目:AgentGuide查看原题集

题目目录

182 道原题
  1. 【对话与推理模型对比】对话模型和推理模型在训练目标和能力上有什么区别? 「字节跳动」

    原题
  2. 【对话数据作用】你认为对话数据在提升模型泛化能力方面的作用如何?能否举一个增强后成功的例子? 「百度」

    原题
  3. 【对齐原理】对齐的原理是什么,你怎么看待? 「蚂蚁集团」

    原题
  4. 【小模型数据来源】你说训一个小模型,那小模型数据如何来? 「美团」

    原题
  5. 【微调关键点】介绍微调负责的工作,大模型微调最重要的是什么? 「美团」

    原题
  6. 【微调参数调优经验】调过哪些参数,有什么经验? 「阿里巴巴」

    原题
  7. 【微调后优化】微调大模型后,有哪些优化方案? 「阿里巴巴」

    原题
  8. 【微调方式与层选择】常见的大模型微调方式,以及他们微调那一层是怎么确定的。 「百度」

    原题
  9. 【微调方法对比】完整参数微调、LoRA低秩微调、QLoRA量化低秩微调三者核心差异对比? 「美团」

    原题
  10. 在京东业务场景(如智能客服)中,如何选择适合的微调策略(如LoRA、全参数微调)?在什么场景下选择LoRA?原理 & 为什么它能高效微调大模型?

    1. 是否有全量微调经验?

    展开其余 5 个小问
    1. 公司做的微调大模型怎么做的,调了哪些参数?后训练中你一般调哪些块?

    2. 在京东业务场景(如智能客服)中,如何选择适合的微调策略(如LoRA、全参数微调)?在什么场景下选择LoRA?

    完整原题

    【微调方法对比与选型】全参微调、LoRA、QLoRA、PrefixTuning的核心区别是什么?在阿里业务中如何选型?全量微调和LoRA微调的优缺点分别是什么?是否有全量微调经验?对比LoRA和全量微调的两种微调方式的性能表现。公司做的微调大模型怎么做的,调了哪些参数?后训练中你一般调哪些块?在LoRA微调时需要调整哪些参数?LoRA的可调参数有哪些?在京东业务场景(如智能客服)中,如何选择适合的微调策略(如LoRA、全参数微调)?在什么场景下选择LoRA?原理 & 为什么它能高效微调大模型?基座模型是什么(Qwen),不同基座的区别,怎么微调? 「京东、拼多多、百度、腾讯、腾讯混元、阿里巴巴、阿里通义」

    原题