模型基础与推理

本分类共 8 个专题 · 1061 道题

4737

手写 Self-Attention。

模型基础与推理Transformer 与注意力

代码题

进阶

暂无面经 8 份题集

4738

用 Python 从零实现 BPE 的训练与编码。

模型基础与推理Tokenizer 与位置编码

代码题

进阶

暂无面经 5 份题集

4739

用 Python 实现 Top-K 和 Top-P 采样。

模型基础与推理推理与解码

代码题

进阶

暂无面经 7 份题集

4740

手写 RoPE 旋转位置编码。

模型基础与推理Tokenizer 与位置编码

代码题

深入

暂无面经 5 份题集

4751

用 Python 和 PyTorch 实现自回归生成的 KV Cache。

模型基础与推理推理优化与模型压缩

代码题

深入

暂无面经 7 份题集

4752

用 Python 实现支持长度惩罚的 Beam Search。

模型基础与推理推理与解码

代码题

进阶

暂无面经 2 份题集

4758

手写支持掩码和 KV Cache 的 Multi-Query Attention。

模型基础与推理Transformer 与注意力

代码题

深入

暂无面经 3 份题集

4759

手写 Transformer 的正弦余弦绝对位置编码。

模型基础与推理Tokenizer 与位置编码

代码题

进阶

暂无面经 3 份题集

4760

用 PyTorch 实现 Transformer 的逐位置 FFN。

模型基础与推理Transformer 与注意力

代码题

进阶

暂无面经 1 份题集

4761

用 PyTorch 从零实现 LayerNorm。

模型基础与推理模型架构与表示

代码题

进阶

暂无面经 5 份题集