跨周期技术拆解

题集来源:Rocky Ding(WeThinkIn)收录项目:AIGC-Interview-Book查看原题集

题目目录

11 道原题
  1. 为什么前沿模型混用递归状态与全局注意力?

    原题
  2. 动态稀疏注意力为什么仍可能很慢?

    原题
  3. AttnRes、mHC 和 GR 分别改进了残差路径的什么问题?

    原题

    此处 GR 指来源报告中的 Gated Residual。

  4. 高稀疏 MoE 的瓶颈为什么会转向通信和稳定性?

    原题
  5. N-gram 嵌入为何能增加容量,却未必提高下游能力?

    原题
  6. MTP 如何服务推测解码?何时能保持目标分布不变?

    原题
  7. 优化器与低精度为什么必须和架构一起设计?

    原题
  8. 思考预算为什么要按任务分配,而不是一律拉满?

    原题
  9. 异步 Agent RL 为什么提高吞吐又带来策略偏移?

    原题
  10. 上下文压缩为何必须进入训练,而不只是推理技巧?

    原题
  11. 如何比较不同报告中的质量、效率和成本?

    原题