预训练与架构
【大模型原理】说说大模型的原理 「百度」
原题【大模型基础】讲讲大模型的了解(讲了attention, Transformer, decoder-only结构,SFT,RLHF, DPO,生成式推荐) 「百度」
原题【大模型训练流程】介绍大模型的训练过程:预训练、后训练(包括SFT、RL等)以及推理的流程。 「字节Seed、百度、百度文心」
原题【开源模型】主流的开源模型技术报告看过没? 「蚂蚁集团」
原题【开源模型体系】目前主流的开源模型体系有哪些? 「百度、腾讯、腾讯混元」
原题【权重共享】输入的embedding层和最后输出的那一层是不是共用一组参数? 「百度」
原题【模型对比】Claude和GPT/Codex体验区别? 「美团」
原题【模型扩容目的】扩容的目的是什么? 「腾讯」
原题【模型规模扩展】750B模型用于什么场景? 「百度」
原题【激活函数】各LLM都使用哪种激活函数? 「腾讯」
原题
暂无题目