多卡部署模型时,如何排查精度不一致的问题?

暂无参考答案

本题目录

相关面经

1 篇

华为

AI 应用工程师
校招一面、二面、三面
查看原面经 →
你多卡部署用什么框架,有没有遇到精度问题,如果oom了怎么办,vLLM的推理流程是什么

相关题目

4 题