公司案例问答汇编
项目:RAG怎么评估,RAG评估体系中最重要的是什么
原题项目:常见的量化方式有哪些,
QLoRA为什么选的是NF4和FP16这组组合,而不是别的组合?你能说说NF4的分布拟合逻辑吗
原题完整原题
项目:常见的量化方式有哪些,QLoRA为什么选的是NF4和FP16这组组合,而不是别的组合?你能说说NF4的分布拟合逻辑吗
项目:模型部署相关,说下模型部署的参数量和需求硬件之间的关系
原题项目:部署一个MOE架构的千分三的235b的一个模型,他所需要的算力大概是多少?
原题原文“千分三的235b”未明确具体模型配置。
代码题:lc54. 螺旋矩阵
原题八股:介绍几种Attention(MHA,MQA,GQA)的区别
原题八股:分别讲一下Dense模型和MoE模型以及二者的区别
原题八股:讲一下MoE的路由机制是如何做的?
原题项目:介绍RAG项目,讲一下RAG项目的亮点
原题项目:如果召回的答案不是想要的,该怎么处理?
原题
暂无题目