Tokenizer 与位置编码

本分类共 8 个专题 · 1526 道题

4720

BPE 与字节级 BPE（BBPE）如何工作，有什么区别？

模型基础与推理Tokenizer 与位置编码

比较选型

进阶

暂无面经 1 个题集来源

4732

NTK 长度外推方法如何扩展基于 RoPE 的上下文长度？

模型基础与推理Tokenizer 与位置编码

原理机制

深入

暂无面经 1 个题集来源

4740

手写 RoPE 旋转位置编码。

模型基础与推理Tokenizer 与位置编码

代码题

深入

暂无面经 1 个题集来源

4933

BERT 常见的 512 Token 输入限制由哪些配置和训练条件决定？

模型基础与推理Tokenizer 与位置编码

原理机制

进阶

暂无面经 1 个题集来源

6254

用基础操作实现一个简单 Tokenizer。

模型基础与推理Tokenizer 与位置编码

代码题

进阶

暂无面经 1 个题集来源

8766

在使用 M-RoPE 之前，视频的帧与 Patch 通常如何组织 RoPE 位置？

模型基础与推理Tokenizer 与位置编码

原理机制

进阶

9623

为代码补全 Agent 设计 Tokenizer 时，需要处理哪些问题？

模型基础与推理Tokenizer 与位置编码

方案设计

进阶