模型基础与推理

本分类共 8 个专题 · 1061 道题

已筛选

共 1061 道题

排序:

4858
Attention 与全连接层的计算方式有什么区别?
模型基础与推理Transformer 与注意力
比较选型
进阶
4859
BERT 使用字粒度与词粒度表示各有什么优缺点?
模型基础与推理Tokenizer 与位置编码
比较选型
进阶
4861
BERT 为什么在输入前加入 [CLS] Token,如何用于下游任务?
模型基础与推理模型架构与表示
原理机制
基础
4862
BERT 的非线性来自哪些计算环节?
模型基础与推理模型架构与表示
原理机制
进阶
4863
点积注意力与加性注意力有什么区别,为什么 Transformer 采用点积?
模型基础与推理Transformer 与注意力
比较选型
进阶
4864
原始 Transformer 为什么将输入词嵌入乘以模型维度的平方根?
模型基础与推理模型架构与表示
原理机制
进阶
4866
GELU 激活函数的计算公式是什么?
模型基础与推理模型架构与表示
原理机制
基础
4867
Swish 激活函数的计算公式是什么?
模型基础与推理模型架构与表示
原理机制
基础
4868
使用 GLU 门控的前馈网络如何计算?
模型基础与推理模型架构与表示
原理机制
进阶
4869
GEGLU 前馈块如何计算?
模型基础与推理模型架构与表示
原理机制
进阶