Transformer 输入的 Token Embedding 与位置编码怎样组合,是否逐元素相加?

未标记

Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~

问 AI
本题目录

相关面经

2 篇

阿里巴巴

机器学习算法
一面、二面
查看原面经 →
写transformer的时候问位置编码和原始embedding是逐元素相加吗

字节跳动

风控算法实习生
实习一面
查看原面经 →
旋转位置编码、绝对位置编码,是直接加到 token embedding 上的吗?

相关题目

4 题