用户可切换不同大模型时,如何设置上下文容量与 Token 阈值?

暂无参考答案

未标记

询问 AI
本题目录

相关面经

1 篇

快手

AI 应用 / Agent 开发
日常实习一面
查看原面经 →
追问
那么token的阈值该怎么设计?那对于一个agent应用,用户可以配置自己任意的大模型的apikey,那么这里token上下文窗口的大小该怎么设置设计是最合适的?

相关题目

4 题