模型服务如何权衡响应速度、回答准确性与调用成本?

暂无参考答案

未标记

询问 AI
本题目录

相关面经

1 篇

恒生电子

AI 应用开发工程师
校招秋招一面
查看原面经 →
追问
你刚才提到为了降低TTFT替换了豆包1.8 flash模型,还做了kv缓存优化。在平衡响应速度、回答准确性、调用成本这三者的时候,你们最终做了哪些关键取舍?

收录题集

8 份

Agent 核心面试题

阿东玩 AI · AgentGuide · 1 条原题

查看题集 →

公司案例问答汇编

阿东玩 AI · AgentGuide · 1 条原题

查看题集 →

项目复盘与行为面试

AMIT SHEKHAR · ai-engineering-interview-questions · 1 条原题

查看题集 →

多模态 AI

AMIT SHEKHAR · ai-engineering-interview-questions · 1 条原题

查看题集 →

AI 系统设计

AMIT SHEKHAR · ai-engineering-interview-questions · 1 条原题

查看题集 →
展开剩余 3 份题集

相关题目

4 题