了解哪些大模型推理框架？

知识专题：推理优化与模型压缩题目类型：经历介绍

相关面经：2 篇题集来源：1 个

未标记

暂无参考答案

带着这道题，问问 AI

选择平台，携带当前题目继续提问。

问 AI

选择 AI 平台

Kimi 千问 ChatGPT

自动带入当前题目

Kimi · 千问 · ChatGPT

本题目录

相关面经

2 篇

华为

AI 应用工程师

2026-10-27校招一面、二面、三面

查看原面经 →

你多卡部署用什么框架，有没有遇到精度问题，如果oom了怎么办，vLLM的推理流程是什么

字节跳动

大模型应用算法工程师

2026-05-06实习

查看原面经 →

你了解哪些大模型推理框架？

收录题集

1 个来源，共1 份题集

字节跳动高频面试题

Rocky Ding · AIGC-Interview-Book · 1 条原题

查看题集 →

- 你了解哪些大模型推理框架？SGLang相比vLLM的PagedAttention在推理延迟上有哪些优势？