使用过哪些开源推理框架,怎样运行模型?

暂无参考答案

本题目录

相关面经

1 篇

科大讯飞

AI 研究算法工程师
查看原面经 →
框架理解:vLLM 与 SGLang 的对比 面试官: 有没有用过开源框架跑模型?了解里面的模块作用吗?知道推理的瓶颈吗?

相关题目

4 题