公司未注明
LLM 算法实习生面经
完整信息
本篇目录
祝大家都能拿到满意的Offer！
主要聊的项目穿插八股：
- 为什么选择xx模型,你能介绍一下这个模型的架构吗？也介绍一下transformer的架构？
你选的这个模型的架构相比transformer区别是什么？这个是业界比较好的基座模型吗？为什么选择这么模型？结果有什么评价指标？ - 在重构词表的时候会不会涉及到一些新的bpe分词的问题？你们是怎么解决的
- （我项目里提到的第二种方法）是一种已有的方法还是你们的创新点？分别提高了多少个百分点？
- 目前这个模型部署使用了吗？
- 在训练那个NLP模型的时候，你用的是什么框架？
- 你有没有用过decoder-only的模型？有没有这方面的经验，你对现有的decoder模型是否了解？知不知道它们的创新点在什么地方？
手撕：MHA
本篇目录
当前问题0108
- 01
为什么选择xx模型,你能介绍一下这个模型的架构吗？也介绍一下transformer的架构？
- 02
这个是业界比较好的基座模型吗？为什么选择这么模型？结果有什么评价指标？
- 03
在重构词表的时候会不会涉及到一些新的bpe分词的问题？你们是怎么解决的
- 04
（我项目里提到的第二种方法）是一种已有的方法还是你们的创新点？分别提高了多少个百分点？
- 05
目前这个模型部署使用了吗？
- 06
在训练那个NLP模型的时候，你用的是什么框架？
- 07
你有没有用过decoder-only的模型？有没有这方面的经验，你对现有的decoder模型是否了解？知不知道它们的创新点在什么地方？
- 08
MHA