推理框架知识点

题集来源:Rocky Ding(WeThinkIn)收录项目:AIGC-Interview-Book查看原题集

题目目录

21 道原题
  1. Triton-Inference-Server自定义推理后端实现python-backend

    原题

    此处 Triton 指 NVIDIA Triton Inference Server 的 Python Backend;它与用于编写 GPU 算子的 Triton 语言属于不同层次。