AI系统与训练推理工程

题集来源:阿东玩 AI(Adong)收录项目:AgentGuide查看原题集

题目目录

581 道原题
  1. 【微调框架选择】直接用PEFT库,还是用LLama Factory做的? 「蚂蚁集团」

    原题
  2. 【数据加载器与采样器】torch dataloader和data sampler区别?Dataloader,有哪些函数? 「腾讯、腾讯混元」

    原题
  3. 【计算图工作原理】计算图是如何工作的? 「快手」

    原题
  4. 【AI基础设施新技术】最近在学的AI Infra相关新技术(如Serverless推理、异构调度、FP8训练、dspark架构)?有没有关注infra最新进展? 「腾讯混元、阿里巴巴」

    原题
  5. 【PyTorch GPU资源管理】(追问)是否尝试用PyTorch管理GPU资源? 「快手」

    原题

    原题只问 PyTorch 的 GPU 资源管理经历,未指定显存或设备选择等具体对象。

  6. 【TensorFlow插件与PyTorch扩展对比】TensorFlow插件机制为什么让人觉得麻烦,和PyTorch的extension比起来差别在哪? 「阿里巴巴」

    原题
  7. 【中间结果依赖处理】如果一串算子里有中间结果被别的分支依赖,那你怎么办? 「阿里巴巴」

    原题
  8. 【变长序列处理】Pytorch中如何处理变长输入(如不同的轨迹长度)?具体说明pack_padded_sequence和pad_packed_sequence的用法陷阱。 「字节跳动」

    原题
  9. 【数据加载流水线优化】大模型或深度学习的数据预加载怎么做?如何优化数据加载pipeline? 「蚂蚁集团、阿里巴巴」

    原题
  10. 【模型版本管理】请描述一个你处理过的AI模型版本管理问题,以及你的解决方案。 「京东」

    原题