小天管理 发表于 9月13日 Share 发表于 9月13日 提示词长度几 K输入加输出,大概 10K推理是个树状的结构 如果直接单轮,准确性问题很大"一步步思考"之类是个摆设结构化提示词也收效甚微也试过请 llm 自己优化提示词,没给出什么有价值的优化目前发现效果最好的是,把整个任务拆了,每个子任务只包含需要的部分,每次只请求一个任务这个方案缺点有:1. token 翻倍(这个怎么解决? 毕竟 token 就是金钱)2. 耗时翻倍(这个可以并发解决)或者大家有没有更好的方案? 引用 意见的链接 分享到其他网站 More sharing options...
已推荐帖子
加入讨论
您现在可以发表并稍后注册. 如果您是会员,请现在登录来参与讨论.