模型部署基础概念

题集来源:Rocky Ding(WeThinkIn)收录项目:AIGC-Interview-Book查看原题集

题目目录

33 道原题
  1. 有哪些经典的轻量化网络?

    原题
  2. 有哪些设计高效CNN架构的方法与经验?

    原题
  3. 算法模型部署逻辑?

    原题
  4. 影响模型inference速度的因素?

    原题
  5. AI推理系统介绍

    原题
  6. 在AI领域中模型一共有多少种主流部署形式?

    原题
  7. AI模型在端侧部署时有哪些维度需要考虑?

    原题
  8. 轻量级模型部署经验分享

    原题
  9. 端侧静态多Batch和动态多Batch的区别

    原题

    此处“静态/动态多 Batch”讨论端侧输入批维与资源规划,不指在线请求的动态组批。

  10. 介绍一下MoE技术

    原题