字节跳动
大模型应用算法三面面经
完整信息
本篇目录
1.自我介绍
2.拷打项目:针对长短期记忆，讲讲你是如何设计记忆的提取、压缩与冲突更新机制的？如果检测到用户存在极端情绪，你的Agent如何在不中断对话流的前提下进行干预？
3.讲一下稠密向量与稀疏向量的区别，分别适合处理什么样的搜索需求？
4.在向量化之前，为什么要对长文档进行切片？如果不切片会有什么后果？
5.切片时设置重叠区域的作用是什么？这个比例你通常怎么来确定？
6.余弦相似度和欧氏距离在衡量文本相似性时，各自的优缺点是什么？
7.向量库检索出的Top-K结果，如果K值设置得过大，对后续的生成质量有哪些负面影响？
8.为什么在初筛召回之后，还要加一个Rerank模型？它能解决向量搜索的哪些局限？
9.如果文档发生了局部更新，如何通过增量索引来避免全量重新向量化？
10.在RAG的生成阶段，如何在Prompt中设定边界条件来防止模型在没搜到内容时产生幻觉？
11.调用大模型API时，为什么要使用asyncio异步编程？它在处理高并发请求时有何优势？
12.了解HyDE吗？介绍一下原理，它在处理模糊提问时有哪些优势？
13.随着超长上下文模型的出现，你认为传统RAG架构的必要性是否降低了？
14.你了解哪些大模型推理框架？SGLang相比vLLM的PagedAttention在推理延迟上有哪些优势？
15.手撕：第k大元素
20.反问
📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。
本篇目录
当前问题0118
- 01
自我介绍
- 02
拷打项目:针对长短期记忆，讲讲你是如何设计记忆的提取、压缩与冲突更新机制的？
- 03
拷打项目:针对长短期记忆，讲讲你是如何设计记忆的提取、压缩与冲突更新机制的？
- 04
如果检测到用户存在极端情绪，你的Agent如何在不中断对话流的前提下进行干预？
- 05
讲一下稠密向量与稀疏向量的区别，分别适合处理什么样的搜索需求？
- 06
在向量化之前，为什么要对长文档进行切片？如果不切片会有什么后果？
- 07
切片时设置重叠区域的作用是什么？这个比例你通常怎么来确定？
- 08
余弦相似度和欧氏距离在衡量文本相似性时，各自的优缺点是什么？
- 09
向量库检索出的Top-K结果，如果K值设置得过大，对后续的生成质量有哪些负面影响？
- 10
为什么在初筛召回之后，还要加一个Rerank模型？它能解决向量搜索的哪些局限？
- 11
如果文档发生了局部更新，如何通过增量索引来避免全量重新向量化？
- 12
在RAG的生成阶段，如何在Prompt中设定边界条件来防止模型在没搜到内容时产生幻觉？
- 13
调用大模型API时，为什么要使用asyncio异步编程？它在处理高并发请求时有何优势？
- 14
了解HyDE吗？介绍一下原理，它在处理模糊提问时有哪些优势？
- 15
随着超长上下文模型的出现，你认为传统RAG架构的必要性是否降低了？
- 16
你了解哪些大模型推理框架？SGLang相比vLLM的PagedAttention在推理延迟上有哪些优势？
- 17
你了解哪些大模型推理框架？SGLang相比vLLM的PagedAttention在推理延迟上有哪些优势？
- 18
手撕：第k大元素