模型基础与推理

本分类共 8 个专题 · 1061 道题

已筛选

共 1061 道题

排序:

4714
Qwen2 相较前代有哪些主要改进?
模型基础与推理模型架构与表示
原理机制
进阶
4715
LLaMA 3.1 有哪些主要技术与能力创新?
模型基础与推理模型架构与表示
原理机制
进阶
4717
大模型解码速度为什么经常受显存带宽限制?
模型基础与推理推理优化与模型压缩
原理机制
进阶
4718
Tokenizer 如何从语料中训练出词表和分词规则?
模型基础与推理Tokenizer 与位置编码
操作实践
进阶
4719
WordPiece 如何利用语言模型概率或关联评分选择词表合并?
模型基础与推理Tokenizer 与位置编码
原理机制
进阶
4720
BPE 与字节级 BPE(BBPE)如何工作,有什么区别?
模型基础与推理Tokenizer 与位置编码
比较选型
进阶
4730
什么是大模型的长度外推?
模型基础与推理Tokenizer 与位置编码
概念解释
基础
4731
ALiBi 如何通过线性注意力偏置表示位置信息?
模型基础与推理Tokenizer 与位置编码
原理机制
进阶
4732
NTK 长度外推方法如何扩展基于 RoPE 的上下文长度?
模型基础与推理Tokenizer 与位置编码
原理机制
深入
4736
什么是端到端模型,如何判断一个学习系统是否端到端?
模型基础与推理机器学习与推荐系统
概念解释
基础