AI系统与训练推理工程
【微调框架选择】直接用PEFT库,还是用LLama Factory做的? 「蚂蚁集团」
原题【数据加载器与采样器】torch dataloader和data sampler区别?Dataloader,有哪些函数? 「腾讯、腾讯混元」
原题【计算图工作原理】计算图是如何工作的? 「快手」
原题【AI基础设施新技术】最近在学的AI Infra相关新技术(如Serverless推理、异构调度、FP8训练、dspark架构)?有没有关注infra最新进展? 「腾讯混元、阿里巴巴」
原题【PyTorch GPU资源管理】(追问)是否尝试用PyTorch管理GPU资源? 「快手」
原题原题只问 PyTorch 的 GPU 资源管理经历,未指定显存或设备选择等具体对象。
【TensorFlow插件与PyTorch扩展对比】TensorFlow插件机制为什么让人觉得麻烦,和PyTorch的extension比起来差别在哪? 「阿里巴巴」
原题【中间结果依赖处理】如果一串算子里有中间结果被别的分支依赖,那你怎么办? 「阿里巴巴」
原题【变长序列处理】Pytorch中如何处理变长输入(如不同的轨迹长度)?具体说明pack_padded_sequence和pad_packed_sequence的用法陷阱。 「字节跳动」
原题【数据加载流水线优化】大模型或深度学习的数据预加载怎么做?如何优化数据加载pipeline? 「蚂蚁集团、阿里巴巴」
原题【模型版本管理】请描述一个你处理过的AI模型版本管理问题,以及你的解决方案。 「京东」
原题
暂无题目