如何搭建 TILE Cache 系统仿真,并据此选择并行配置和 Prefill/Decode 配比?

未标记

Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~

问 AI
本题目录

相关面经

1 篇

腾讯

AI Infra
二面
查看原面经 →
分享英特尔TILE Cache仿真项目经验,说明仿真平台的搭建逻辑、系统层级的优化思路,以及如何基于仿真结果为业务提供并行配置、PD配比的标准化落地参考方案。

相关题目

4 题