科大讯飞
AI Infra面经
完整信息
本篇目录
整体感觉还不错，但是喜提人才库....
1.NV的卡对于FP8有哪些独特的优化。
2.FP8的两种情况有什么区别，分别怎么计算?
3.计算FP8的kvcache大小
4.H卡有什么新的设计，和L卡有什么不一样呢?
5.讲讲最近推理上有什么新的tricks
(无手撕)
本篇目录
当前问题0104
- 01
NV的卡对于FP8有哪些独特的优化。
- 02
FP8的两种情况有什么区别，分别怎么计算?
- 03
计算FP8的kvcache大小
- 04
讲讲最近推理上有什么新的tricks