为什么要让Agent学会反思？
众所周知，无论用多大规模的LLM，都无法消除幻觉。那么，如何让Agent学会反思，提高其准确率呢？让我们一起来探讨。
为什么要给Agent配置自我反思的Cot？
Agent在解决多步问题方面非常厉害，但如果没有自我反思能力，推理时会出错，输出幻觉，并陷入无用的循环。自我反思型Agent，恰好能借助Cot、外部知识、以及从反馈中学习的能力，提高Agent的准确率。
什么是反馈学习？
反馈学习包含3个部分：反馈的来源、反馈的类型、反馈学习的策略。其中，自我纠正就是让Agent在信息交换的过程中，逐步纠正幻觉的输出。
Self-Reflection（自我反思）
Agent中的自我反省是一种元认知策略，使用自我反省的LLM能够识别并纠正其错误，即使LLM无法识别Cot中的推理错误，借助外部反馈的知识仍然能纠正错误。
自我反思流程图和算法
8种Self-Reflection的策略
- Retry : 被告知回答错误，并简单地再次尝试。
- Keywords : 每种错误类型的一组关键字。
- Advice: 一组用于改进的一般建议。
- Explanation : 对其出错原因的解释。
- Instructions: 用于解决问题的指令的有序列表。
- Solution: 针对问题的逐步解决方案。
- Composite : 混合所有六种类型的自我反思，反思时不保留中间答案。
- Unredacted: 混合所有六种类型，自我反思时保留各自的答案作为中间结果。
其中，Unredacted策略达到了97%的准确率。说明，当LLM在自我反思中获得正确答案并保留为中间推理结果时，它能以较高的准确率回答问题。
如何学习大模型AI？
由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。但是具体到个人，只能说是：“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。
我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
学习大模型AI的四个阶段
- 第一阶段（10天）：初阶应用
- 第二阶段（30天）：高阶应用
- 第三阶段（30天）：模型训练
- 第四阶段（20天）：商业闭环
学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。
小结与拓展
本文介绍了8种Self-Reflection策略，帮助Agent提高准确率。同时，也分享了大模型AI的学习方法和四个阶段。希望对大家有所帮助。
——苏承栈，极星编程网资深编辑