百度
AI Infra一面面经
完整信息
本篇目录
发些面经攒攒人品～～～
1* FusedAttention优化怎么做的？
2* 介绍一下FlashAttention
3* FlashAttention数学推理公式
4* RMSNorm为什么相比LayerNorm有提升？
5* 现场想一个更灵活有效的显存分配方式cudaAllocator
6* 整个Llama中有几个FC全连接层？
7* Llama2的推理流程？每一层都有什么算子
论文拷打
C++：
1* C++11的特性
2* 智能指针
3* unique_ptr 如何保证唯一性
4* shared_ptr 何时析构
5* 类的成员函数可以当模板吗
6* 左值右值
CUDA：
1* CUDA有哪几种编程手段
2* Tensor core 和 CUDA core的区别
编程：
1* 【LeetCode - 128】最长连续序列
2* 【LeetCode - 340】至多包含 K 个不同字符的最长子串
本篇目录
当前问题0117
- 01
FusedAttention优化怎么做的？
- 02
介绍一下FlashAttention
- 03
FlashAttention数学推理公式
- 04
RMSNorm为什么相比LayerNorm有提升？
- 05
现场想一个更灵活有效的显存分配方式cudaAllocator
- 06
整个Llama中有几个FC全连接层？
- 07
Llama2的推理流程？每一层都有什么算子
- 08
C++11的特性
- 09
智能指针
- 10
unique_ptr 如何保证唯一性
- 11
shared_ptr 何时析构
- 12
类的成员函数可以当模板吗
- 13
左值右值
- 14
CUDA有哪几种编程手段
- 15
Tensor core 和 CUDA core的区别
- 16
【LeetCode - 128】最长连续序列
- 17
【LeetCode - 340】至多包含 K 个不同字符的最长子串