大模型手写代码练习路线
DDIM Sampling Step· 中等 🟡 中等 — 确定性采样，加速扩散模型推理
原题Flow Matching Loss· 简单 🟢 简单 — 比 DDPM 更简单的生成框架，Flux 使用
原题Ring Attention· 困难 🔴 困难 — 序列并行，多设备分布式注意力计算
原题Tensor Parallel MLP· 困难 🔴 困难 — 列并行 + 行并行，Megatron-LM 核心
原题FSDP Training Step· 困难 🔴 困难 — 全参数分片训练，PyTorch FSDP 原理
原题Linear Self-Attention· 困难 🔴 困难 — O(N) 复杂度注意力，核函数近似
原题MCTS for Reasoning 🔴 困难 — 蒙特卡洛树搜索，o1/R1 推理扩展基础
原题
暂无题目