模型基础与推理

本分类共 8 个专题 · 1061 道题

已筛选

共 1061 道题

排序:

4794
SentencePiece 是什么,如何训练和使用子词分词模型?
模型基础与推理Tokenizer 与位置编码
原理机制
进阶
4795
什么是生成式 AI?
模型基础与推理多模态与生成模型
概念解释
基础
4796
大语言模型的上下文窗口为什么有限?
模型基础与推理推理优化与模型压缩
原理机制
进阶
4797
Logits 是什么,如何参与大模型文本生成?
模型基础与推理推理与解码
原理机制
基础
4798
LLM 如何通过结束 Token 和运行时条件停止生成?
模型基础与推理推理与解码
原理机制
基础
4799
Stop Token 与 Stop Sequence 有什么区别?
模型基础与推理推理与解码
比较选型
基础
4800
开源与闭源大模型有什么区别,应如何按应用需求选择?
模型基础与推理模型选型与能力边界
比较选型
进阶
4801
Encoder-only、Decoder-only 与 Encoder-Decoder 架构有什么区别?
模型基础与推理Transformer 与注意力
比较选型
进阶
4802
如何估算 KV Cache 显存,并分析批大小和上下文长度的限制?
模型基础与推理推理优化与模型压缩
原理机制
进阶
4803
MoE 混合专家模型如何组织路由与专家计算?
模型基础与推理模型架构与表示
原理机制
进阶