模型部署精华 · ONNX 与 TensorRT

题集来源:Rocky Ding(WeThinkIn)收录项目:AIGC-Interview-Book查看原题集

题目目录

23 道原题
  1. ONNX为什么能作为不同训练框架和推理框架之间的桥梁?

    原题
  2. ONNX由哪些主要组件组成?Graph、Node、Tensor和Opset分别表示什么?

    原题
  3. (进阶)ONNX的Opset版本为什么会影响模型部署兼容性?

    原题
  4. 为什么模型部署中常用中间表示而不是直接使用训练框架模型?

    原题
  5. 中间表示如何帮助推理框架做图优化、硬件适配和跨平台部署?

    原题
  6. (进阶)ONNX、TorchScript、TensorRT Engine和OpenVINO IR有什么区别?

    原题
  7. PyTorch模型导出ONNX的基本流程是什么?

    原题
  8. 导出ONNX时dynamic_axes、opset_version和input_names/output_names分别有什么作用?

    原题
  9. (进阶)如何验证导出的ONNX模型与PyTorch原模型输出一致?

    原题
  10. ONNX Runtime的Execution Provider是什么?常见EP有哪些?

    原题