返回全部题目← 上一题7 / 25下一题 →题库/模型基础与推理/Q-4586大模型增大词表规模有哪些收益与代价?知识专题:Tokenizer 与位置编码题目类型:比较选型技术难度:进阶收录题集:3 份暂无参考答案未标记未标记待复习已掌握收藏询问 AI选择 AI 平台KimiKimi(新窗口打开)Qwen千问(新窗口打开)OpenAIChatGPT(新窗口打开)自动带入当前题目本题目录收录题集相关题目收录题集3 份Tokenizer与Embedding阿东玩 AI · AgentGuide · 1 条原题查看题集 →【多语言Tokenizer】多语言训练里tokenizer一般怎么做?中英文混训时常见问题有哪些(比如分词颗粒度、混比、符号处理)? 「拼多多」模型架构与工作原理Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →词表大小、分词粒度和多语言能力如何相互影响?预训练:训练与数据处理Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →分词器(Tokenizer)、词表大小与切分度(fertility)如何影响预训练效率和多语言能力?相关题目4 题0287Token 与字符有什么区别?同一知识专题题目类型:比较选型技术难度:基础相关面经:1 篇0508位置编码的原理。同一知识专题题目类型:原理机制技术难度:进阶相关面经:4 篇0512大模型常见位置编码有哪些,各有什么优缺点?同一知识专题题目类型:比较选型技术难度:进阶相关面经:1 篇3650RoPE 是什么,解决什么问题?同一知识专题题目类型:原理机制技术难度:基础相关面经:1 篇♥♥♥♥♥← 上一题已到最后一题← 上一题为什么大模型常采用子词分词,而非完整单词级分词?下一题 →Tokenizer 如何从语料中训练出词表和分词规则?