小天管理 发表于 2024年9月13日 发表于 2024年9月13日 提示词长度几 K输入加输出，大概 10K推理是个树状的结构 如果直接单轮，准确性问题很大"一步步思考"之类是个摆设结构化提示词也收效甚微也试过请 llm 自己优化提示词，没给出什么有价值的优化目前发现效果最好的是，把整个任务拆了，每个子任务只包含需要的部分，每次只请求一个任务这个方案缺点有：1. token 翻倍（这个怎么解决？ 毕竟 token 就是金钱）2. 耗时翻倍（这个可以并发解决）或者大家有没有更好的方案？
已推荐帖子