模型部署基础概念

题集来源:Rocky Ding(WeThinkIn)收录项目:AIGC-Interview-Book查看原题集

题目目录

33 道原题
  1. 介绍一下DDP和FSDP的原理与区别

    原题
  2. 什么是异构计算?

    原题
  3. Int8和FP8有哪些区别?

    原题
  4. 介绍一下NF4精度的特点

    原题
  5. AI模型的轻量化效果评价指标有哪些?

    原题
  6. 如何将AI模型缓存到内存中,这么做有什么好处?

    原题
  7. Jenkins的介绍

    原题
  8. 介绍一下模型性能优化与模型部署之间的关系

    原题
  9. 英伟达的GPU架构是什么样的?

    原题
  10. 大模型常见模型文件格式简介

    原题