AI系统与训练推理工程

题集来源:阿东玩 AI(Adong)收录项目:AgentGuide查看原题集

题目目录

581 道原题
  1. 【操作类型与计算限制】大矩阵相乘和求和类操作分别属于哪类限制(memory bound 或者 compute bound)? 「字节Seed」

    原题
  2. 【模型训练资源需求】32B模型训练用了多少显卡? 「腾讯」

    原题
  3. 【浮点数格式对比】浮点数格式对比:FP32、FP16和BF16的区别? 「百度」

    原题
  4. 【芯片峰值算力】BR166的峰值算力是多少? 「阿里通义」

    原题

    原题未指定 BR166 峰值的精度、产品形态及统计口径。

  5. 【AI集群监控指标】监控AI集群需要关注哪些关键指标? 「腾讯」

    原题
  6. 【CPU Cache Line与GPU Sector对比】CPU的Cache Line是64 Bytes,GPU的一个Sector通常是多少?它们在设计上有哪些不同? 「百度」

    原题
  7. 【CPU并行策略】CPU上有哪三大并行策略(如指令级并行、数据级并行、线程级并行)?请分别举例说明它们的应用场景和实现方式。 「百度」

    原题
  8. 【CPU延迟优化设计】CPU从哪些方面体现出自己是以降低延迟为中心的?例如分支预测、缓存设计、流水线等技术是如何减少延迟的? 「百度」

    原题
  9. 【CPU流水线级数】CPU流水线级数的影响:是否越多越好?增加流水线级数会带来哪些优点(如提升主频)和缺点(如分支预测失误的惩罚增加)? 「百度」

    原题
  10. 【CPU访存优化】CPU访存优化方法。 「百度」

    原题