公司案例问答汇编
项目:llm推理效率,如果真的部署到在线系统里,这个效率的问题怎么解决呢
原题项目:有没有尝试过模型裁剪?比如 low-rank adaptor、LoRA 融合,或者用Mamba替换部分token path?
原题代码题:实现Casual mask的MHA,说下计算复杂度
原题自我介绍
原题八股:Transformer底层原理,为啥能替代RNN
原题八股:大模型预测token的损失是怎么算的?有哪几种常见的损失函数?
原题项目:看你做过RAG,讲讲从数据清洗到检索服务上线这整个链路是怎么搭的,怎么做chunk切分的
原题项目:你觉得当前RAG的最大瓶颈在哪?你做过哪些改进来提升Recall
原题项目:传统RAG有什么痛点;介绍GraphRAG,GraphRAG的难点是什么;
GraphRAG如何应对增量场景
原题完整原题
项目:传统RAG有什么痛点;介绍GraphRAG,GraphRAG的难点是什么;GraphRAG如何应对增量场景
项目:RAG中知识库搭建,对知识库的文件文档进行动态增量更新,怎么来避免新旧文档的文单的分布不一致导致的这种检索偏差问题
原题
暂无题目