数分校招自学|Agent使用技巧1️⃣上下文管理
用好AI的关键:提供知识与上下文,描述清楚问题
👾Agent每轮对话都会结合当前问题和历史问题进行思考,所以会出现越问越慢的情况,Agent虽然有系统压缩的机制来保证正常回答的速度,但系统压缩上下文的方式比较死板,是根据当前上下文用量的阈值进行判断,可能会在一些不恰当的节点进行压缩,导致关键信息丢失,这就需要我们有主动管理上下文的能力
如何主动管理上下文?
1️⃣不相关的问题,新开一个会话框
2️⃣重要的事情多强调,主动重复能让重要信息始终处于模型注意力高的位置
3️⃣主动压缩上下文,比如分步骤执行任务时,在完成某几个步骤后进行一次手动压缩,并且在压缩后重新描述关键细节,或者让模型把历史关键信息(skill、知识)再加载一次
⭐️通用prompt压缩模版:
【请对我们截至目前对话做上下文压缩:
1.输出只包含四块:任务目标、硬性约束、已完成结果、剩余待办;
2.剔除所有调试过程、失败尝试、闲聊、重复表述;
3.不要新增信息,只提炼已有事实;
4.压缩完成后,后续任务完全基于这份摘要执行,不再引用原始对话中的细碎内容。】
Agent Agent使用 AI自学 数据分析 数据科学 商业分析

