如何搭建 TILE Cache 系统仿真,并据此选择并行配置和 Prefill/Decode 配比?
Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~
问 AI
本题目录
相关面经
1 篇腾讯
AI Infra二面
分享英特尔TILE Cache仿真项目经验,说明仿真平台的搭建逻辑、系统层级的优化思路,以及如何基于仿真结果为业务提供并行配置、PD配比的标准化落地参考方案。
Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~
分享英特尔TILE Cache仿真项目经验,说明仿真平台的搭建逻辑、系统层级的优化思路,以及如何基于仿真结果为业务提供并行配置、PD配比的标准化落地参考方案。