AI系统与训练推理工程
【大规模AI集群SLA与稳定性】怎么保证大规模AI集群的SLA与稳定性,灰度发布、熔断及故障演练机制? 「腾讯混元」
原题【端侧模型精度下降协同优化】对于端侧(如手机微信内部)部署的极轻量化视觉语言模型,如果发现在特定的垂类场景(如单据票据OCR理解)上精度下降严重,你会如何在云端和端侧分配重新训练或微调的负载链路? 「腾讯」
原题【高可用大模型推理服务】设计高可用大模型推理服务;如何设计一个高可用的模型服务化平台,确保99.99%的SLA? 「京东、字节跳动」
原题【高并发服务优化】高峰期用户咨询卡顿、Agent响应超时,LLM推理耗时波动极大,如何从服务架构、队列策略、缓存、降级四层做全链路优化?同时,高并发场景下,Agent服务如何做限流、降级、熔断、缓存优化? 「美团」
原题【GPU资源分配与调度】组内卡多少,每个人平均能用多少?这边是否有独占的卡池,排队时间大概怎么样? 「腾讯、阿里通义」
原题【训练GPU与框架】实际训练使用什么GPU,单卡显存是多少?是否用过其他厂商的芯片?用什么卡部署的?用的什么卡什么训练框架?用的训练资源? 「字节跳动、百度、阿里巴巴、阿里通义」
原题【AI PC芯片】有没有具体了解一些AIPC芯片? 「百度」
原题【CPU与GPU架构对比】CPU与GPU在架构设计上有哪些主要区别?为什么GPU更适合大规模并行计算和AI训练,而CPU更适合低延迟任务? 「京东、百度」
原题【CPU存储层次】CPU的存储层次结构是什么样的(如寄存器、L1/L2/L3缓存、主存等)?它们之间的速度、容量和访问延迟有什么特点? 「百度」
原题【CPU峰值算力计算】如何计算CPU的峰值算力?例如,对于一个4核CPU,主频为3.0GHz,每个周期可以执行4条浮点指令,其峰值算力是多少? 「百度」
原题
暂无题目