用户可切换不同大模型时,如何设置上下文容量与 Token 阈值?
暂无参考答案
未标记
询问 AI
本题目录
相关面经
1 篇快手
AI 应用 / Agent 开发日常实习一面
那么token的阈值该怎么设计?那对于一个agent应用,用户可以配置自己任意的大模型的apikey,那么这里token上下文窗口的大小该怎么设置设计是最合适的?
暂无参考答案
那么token的阈值该怎么设计?那对于一个agent应用,用户可以配置自己任意的大模型的apikey,那么这里token上下文窗口的大小该怎么设置设计是最合适的?