AI系统与训练推理工程

题集来源:阿东玩 AI(Adong)收录项目:AgentGuide查看原题集

题目目录

581 道原题
  1. 【大规模AI集群SLA与稳定性】怎么保证大规模AI集群的SLA与稳定性,灰度发布、熔断及故障演练机制? 「腾讯混元」

    原题
  2. 【端侧模型精度下降协同优化】对于端侧(如手机微信内部)部署的极轻量化视觉语言模型,如果发现在特定的垂类场景(如单据票据OCR理解)上精度下降严重,你会如何在云端和端侧分配重新训练或微调的负载链路? 「腾讯」

    原题
  3. 【高可用大模型推理服务】设计高可用大模型推理服务;如何设计一个高可用的模型服务化平台,确保99.99%的SLA? 「京东、字节跳动」

    原题
  4. 【高并发服务优化】高峰期用户咨询卡顿、Agent响应超时,LLM推理耗时波动极大,如何从服务架构、队列策略、缓存、降级四层做全链路优化?同时,高并发场景下,Agent服务如何做限流、降级、熔断、缓存优化? 「美团」

    原题
  5. 【GPU资源分配与调度】组内卡多少,每个人平均能用多少?这边是否有独占的卡池,排队时间大概怎么样? 「腾讯、阿里通义」

    原题
  6. 【训练GPU与框架】实际训练使用什么GPU,单卡显存是多少?是否用过其他厂商的芯片?用什么卡部署的?用的什么卡什么训练框架?用的训练资源? 「字节跳动、百度、阿里巴巴、阿里通义」

    原题
  7. 【AI PC芯片】有没有具体了解一些AIPC芯片? 「百度」

    原题
  8. 【CPU与GPU架构对比】CPU与GPU在架构设计上有哪些主要区别?为什么GPU更适合大规模并行计算和AI训练,而CPU更适合低延迟任务? 「京东、百度」

    原题
  9. 【CPU存储层次】CPU的存储层次结构是什么样的(如寄存器、L1/L2/L3缓存、主存等)?它们之间的速度、容量和访问延迟有什么特点? 「百度」

    原题
  10. 【CPU峰值算力计算】如何计算CPU的峰值算力?例如,对于一个4核CPU,主频为3.0GHz,每个周期可以执行4条浮点指令,其峰值算力是多少? 「百度」

    原题