字节跳动高频面试题
随着超长上下文模型的出现,你认为传统RAG架构的必要性是否降低了?
原题你了解哪些大模型推理框架?SGLang相比vLLM的PagedAttention在推理延迟上有哪些优势?
原题手撕:第k大元素
原题大模型相关经历深挖:你项目里最核心的贡献是什么,怎么验证有效
原题对比学习 loss:负样本和正样本拉不开/太像了,你会怎么改损失或采样
原题FlashAttention 跟普通 attention 的差异?实现里 QK^T、softmax、PV 这几步怎么落
原题3D 并行里 DP/DDP 你怎么理解;实际落地时通信瓶颈一般卡在哪些环节
原题14B:FP16 权重大概多大;训练还要加哪些;INT8 大概能省多少
原题torch.contiguous() 干嘛的?推理为什么在意连续性
原题代码:读 txt 井字棋(3×3),判断当前玩家是否获胜
原题
暂无题目