AI 系统开发一面面经
完整信息
本篇目录
自我介绍
项目,redis proxy怎么实现的,分布式限流怎么做的
Agent做了哪些内容?
看你本科是中国语言文学,你说下怎么让大模型做到输出的这个诗词,符合平仄,格律的?
马尔科夫决策过程,贝尔曼方程,ddpg,ppo。。。
lowrank微调过程,什么是rank,a和b矩阵怎么初始化,怎么选择rank,梯度正向传播,反向传播过程
xgboost,决策树,决策森林,早忘干净了?
Nvidia smi和pytorch输出的显存占用为何不同?
显存oom如何排查?
Llm的显存占用由哪几部分构成?
为什么显存碎片化?
训练和推理计算上的区别是什么?
哪些推理框架?
怎么加速推理?
模型量化,各种量化类型,怎么评估量化后的模型质量
本篇目录
当前问题0115
- 01
自我介绍
- 02
项目,redis proxy怎么实现的,分布式限流怎么做的
- 03
Agent做了哪些内容?
- 04
看你本科是中国语言文学,你说下怎么让大模型做到输出的这个诗词,符合平仄,格律的?
- 05
马尔科夫决策过程,贝尔曼方程,ddpg,ppo。。。
- 06
lowrank微调过程,什么是rank,a和b矩阵怎么初始化,怎么选择rank,梯度正向传播,反向传播过程
- 07
xgboost,决策树,决策森林,早忘干净了?
- 08
Nvidia smi和pytorch输出的显存占用为何不同?
- 09
显存oom如何排查?
- 10
Llm的显存占用由哪几部分构成?
- 11
为什么显存碎片化?
- 12
训练和推理计算上的区别是什么?
- 13
哪些推理框架?
- 14
怎么加速推理?
- 15
模型量化,各种量化类型,怎么评估量化后的模型质量
