大模型在接收输入的时候可能会思考,然后直接输出,我们人类接受输入,然后思考,输出,我们还会使用到我们的记忆,而使用到工具还会加上规划,这其实就是agent能力。
举例:
子任务拆解
人类的规划能力
我们希望我们的智能体也能够有这样的能力。
反思和改进
左边的图:
标准的情况呢就是一个输入,然后大模型直接给你输出。
另外一种方式呢就是你自己设置一个步骤,然后你自己大模型的一点点去思考,这种方式只能靠自己去思考的话,也是有问题的。
然后呢第三种方式呢就是你把任务全部拆成小任务,然后分给别人,让别人给你思考。但是那种方式也是有问题的,但是你没有把控任务,你的任务全是别人来做的。
右边的图:
ReAct框架思路:
产生思维链,第一步需要别人的帮助,然后判断回复是否满足我们的需求,如果如果这个第一次的回复不满足我们的需求的话,那我们可以再来请求别人的帮助,然后再看别人的帮助是否满足我们的需求。以此类推,然后直到找到满意的答复为止。
并不是说我们用了这个框架之后,它就一定解决我们前面的问题,但是呢它能够在很大程度上能够提高我们答案的正确率。
你一个人去解决问题,跟你一个团队去解决问题,那肯定是你整个团队去解决问题,那他来的效率高,它的准确率更高嘛。
记忆
工具使用
工具其实就相当于来帮助我们的LLM的,LLM是我们的大脑,我们要利用工具去把这个LLM的能力给涌现出来。
代码体验
langchain框架的思考过程:
其实上面这个过程就跟扣子AI里面设置的工作流其实是一样的。