模型基础与推理

8 个专题 · 179 道题

0323

项目使用了哪个具体模型与版本？

模型基础与推理模型选型与能力边界

项目深挖

进阶

0036

Transformer 中的 Attention 如何计算？

模型基础与推理Transformer 与注意力

原理机制

进阶

6 篇面经 2 份题集

0346

模型、GPU 和参数规模如何选择，是否考虑更大参数模型加量化？

模型基础与推理模型选型与能力边界

比较选型

进阶

0625

Transformer 的整体原理是什么？

模型基础与推理Transformer 与注意力

原理机制

进阶

4 篇面经 2 份题集

1270

项目使用什么大模型或哪类模型？

模型基础与推理模型选型与能力边界

经历介绍

—

1293

不同模型适合什么场景，如何比较使用效果？

模型基础与推理模型选型与能力边界

比较选型

进阶

4 篇面经 1 份题集

2696

项目为什么选择当前基座模型或架构？

模型基础与推理模型选型与能力边界

比较选型

进阶

2757

Temperature、Top-k 和 Top-p 怎样影响模型采样？

模型基础与推理推理与解码

原理机制

进阶

4 篇面经 2 份题集

0511

熟悉哪些大模型，它们的结构有何不同？

模型基础与推理模型架构与表示

比较选型

进阶

2718

KV Cache 缓存什么，怎样影响推理速度和显存？

模型基础与推理推理优化与模型压缩

原理机制

进阶

3 篇面经 2 份题集