AIGC 学习概述
!!!
该系列本来该叫 "Agent 学习" 的,但是为了文件夹的命名对称,所以用了 4 个字母的 "AIGC" 来替换 5 个字母的 "Agent" 。Agent 跟 AIGC 是有区别的,不要搞混。不建议这么命名,后续改回来。
系列目的
该系列是用来记录深度学习 Agent 开发的,从开源项目中学习 Agent 开发实践,然后运用到自己的项目中去。学习经验,然后再实践落地。
只记录关键的学习内容,不赘述详细的细节。
用写博客的形式来督促自己学习。
一直沉浸在做项目中,但是不学,自己很有想法,但是从来没进行过任何的实验、测试,只做而不学,上限无法提升,对未来发展没有好处。
学习计划
阶段一: bojieli/ai-agent-book 666ghj/BettaFish
阶段二: langgraph + langchain intro-to-langsmith
阶段三: infiniflow/ragflow Ragas
阶段四: agentscope-ai/agentscope can1357/oh-my-pi / earendil-works/pi
谈谈学习前我对 AI 的理解程度
在学习前,我对 AI 的理解,大部分来自于各大平台上的各种帖子、短视频的讲解;日常使用的探索理解等,我连那篇非常经典的《Attention Is All You Need》论文都没看过,我也没有看科研论文的习惯。
总之,我的理解比较狭隘,主要来自道听途说,没有个系统的学习,还自我感觉良好,不就那么回事吗?其中的坑是一点看不见。
当然,我也自己尝试设计过 Agent。
我心目中的 Agent AI 润色版
一、 底层哲学:从生物神经到 Agent 的“拟人”初心
我心中的 Agent 系统,核心就两个字:拟人。
- 生物神经与模型的启示:
在 AI 和大模型还没出来之前,我在学自然科学/生物的时候就在琢磨:人类有那么多神经元,如果把这些神经全部一点一点模拟出来,是不是就能造出一个会思考的机器?
现在回头看大模型,其实大差不差——所谓的权重训练、海量参数,本质上就是在模拟神经元网络。虽然具体神经之间的微观关系和作用机制目前还无法完全探明,但通过自训练和结果约束调整参数,当参数足够大、误差足够小,它就逼近了自然规律。学了数学建模、写过论文、跑过模型训练之后,我对这种“以足够复杂逼近自然”的路径更加确信。 - Agent 的第一性原理:
人工智能的终极思路就是尽可能真地模拟自然界。因此,Agent 不应该是一个冷冰冰的、规则写死的执行脚本,而是一个拥有大脑中枢、心理活动、会思考、会摸索经验的“拟人实体”。
二、 核心机制:元认知驱动与“鱼群法则”
Agent 内部最重要的一点,是拥有像生物本能一样、“刻进 DNA”的底层机制。
- 元认知(原则 > 繁杂的规则):
很多人把内部机制理解为“系统提示词”,但我认为更准确的说法是元认知——也就是 Agent 必须遵守的底层原则:“做事情,做得有道理、有逻辑”。 - 鱼群法则与自涌现:
灵感来源于“鱼群实验”:只需要三个极其简单的避障/对齐规则,整个鱼群就能自动协同躲避鲨鱼。
面对现实中千奇百怪的行业和任务,人类不可能手动去写死并维护每一个领域的“最佳实践”。我们只需要给 Agent 注入极其简洁的底层元认知原则,它自己就能推导、演化出后续所有的“最佳实践”,真正把人类从繁琐的指令引导中解放出来。
三、 人设与定位:学生与导师、个人专属的“数字替身”
在人机关系和交互界面上,Agent 与用户的关系应该是高度人格化且高度绑定的。
- “大学生”与“导师”模型:
内部机制上,Agent 就像一个大学生,用户就是他的指导老师。
现实中导师给出的任务往往是模糊、宏观的,大学生如果想拿高分,就必须拼命动脑筋、自己找前置依赖、自己想办法探索完成,而不是事事等老师下死命令。 - 唯一入口与数字替身(复制人):
真正的个人专属 Agent 应该只支持唯一入口(单会话),不需要用户为了不同事开一堆割裂的窗口。
如果开无数个会话,Agent 永远无法拼凑出用户的完整行为画像和偏好习惯。唯一入口意味着它必须在前端具备强大的输入解析、分类与归属能力。最终,这个 Agent 及其数据是高度一体化打包的,它就是用户的“数字替身”或“复制人”,逐渐接管事务,解放真实人类。
四、 认知与执行机制:慢工出细活与动态规划
- 大脑中枢与全局思考:
Agent 必须有一个全局总控(大脑),专门负责高阶思考。任何行动都要伴随思考过程与“心理描写”。优质的结果一定是探索、试错、攒经验出来的,而不是一成不变的机械路径。 - 反浮躁:慢工出细活:
现在很多人用 Agent 极其浮躁,总幻想它又快又好。但人类完成复杂任务本来就要经历千万次思考,人脑有惯性思维(经验)来省略部分思考,但核心过程不可省。“慢工出细活”是朴素的真理,该有的思考和探索步骤绝对不能省。 - 任务自动拆解与单线程专注:
事情要一点一点做,非必要不并行。Agent 应该根据目标自动拆分任务,并自己去探索和完成前置依赖。 - 动态规划与元数据决策:
任务执行不是按死路线走到底,而是依赖大量的元数据辅助做决策树判断,全程进行动态规划、实时调整。
五、 记忆系统与独立工作空间
模拟人脑的存储、提取与遗忘,是拟人 Agent 的核心支柱。
- 工作空间自治:
每个任务/会话都拥有独立的工作目录空间。工作空间内的记录完全由 Agent 自己管理维护。不应该依赖死板的外部 Skill 去限制它的边界,要把能力内化为机制或插件。 - 文档与模糊记忆:
- 完整记忆 = 完整的文档记录。
- 模糊记忆 = 文档的短描述/摘要/索引。人类大脑不会时刻加载全部细节,而是靠检索模糊的记忆印象来唤起细节。
- 专注与回顾机制(对抗遗忘):
人在干活时一次只能专注一小块,做完一个阶段必须停下来“回顾”。因此 Agent 必然会重复读取之前加载过的上下文。这种重复读取机制是保证高质量的关键,绝对不能为了省 token/省成本而去削减,什么都省只会做出一堆垃圾。
六、 内部架构与自进化闭环
系统必须像人体器官一样模块化,同时具备自学习、自纠偏的进化能力。
- 中间件架构(人体器官体系):
系统内部由大量像人体器官、神经系统一样的“中间件”驱动,支持即插即用和独立进化。包含但不限于:- 控制与交互: 会话管理层、决策层、执行层、视觉层
- 思维与元认知: 思考层、反思层
- 记忆与演进: 记忆管理层、遗忘层、学习层、技能维护层、习惯偏好维护层
- 成长曲线: 像婴儿一样起步,逐步掌握技能,最终成熟、独立自主。
- 经验沉淀与技能(Skill)的生命周期:
当 Agent 在实践中意识到大量相似的解决路径时,应该自发沉淀出“专家直觉”,直接依靠这套经验快速判断,形成独特的自研“Skill”。
技能一旦过期(本质是知识库陈旧),就需要遗忘并重新探索学习,实现与时俱进。 - 自我博弈与多 Agent 讨论(防局部最优):
自进化不能闭门造车。系统内部需要引入交流讨论机制:让多个 Agent 互相探讨经验、仲裁对比,避免陷入认知盲区或局部最优解。 - 导师反馈与打分闭环:
用户(导师)作为最终评价者,对任务成绩进行打分并提出修改意见。Agent 基于评分机制反思、复盘,不断调整自己的决策逻辑,最终在认知和习惯上与用户高度同步。
我心目中的 Agent 原始手搓版
我心中的 Agent 系统应该是拟人的。很简单。在 AI LLM 没有出来之前,我在学习生物这门课的时候,就有想过,人类那么多神经,是不是只要把人类的神经都全部一点一点模拟出来,就可以造出来一个会思考的机器人了?
实际上,大差不差,训练 LLM 不就是用了很多复杂的机制,然后去训练那些权重吗?那么多的参数,不就是为了模拟人的神经,只不过,到底神经之间的关系是怎样的,神经的作用,无法研究明白,只能通过自训练,然后通过结果约束去调整。
实际上,人工智能好像都差不多是这个思路,尽可能真地模拟自然界的发展规律,参数足够大,误差足够小,那么就认为是有效的。学了数学建模之后,写过论文之后,跑过模型训练之后,有这种感觉的。
因此,我设想中的 Agent 系统,应该是拟人的,人有大脑中枢,Agent 就应该有一个全局的总控,大脑专门负责思考;人需要思考,那么 Agent 就应该有思考的过程,有心理描写的过程,好的结果是探索出来的,积累经验攒出来的,不是写死了的,不是一成不变的;任何事都要思考,做一点思考一点,人有惯性思维可以省略一些思考,这是必要的,也就是"经验之谈",但是人在完成一件事情的时候,本来就是经过了超级超级多的思考次数的,但是,现在很多使用 Agent 工具的人,焦躁浮躁的内心,总是希望 Agent 干活又快质量又高,人本质上还是太贪婪了,慢工出细活这么简单的道理、经验;Agent 还应该有自己的知识库,也就是所谓的记忆,这个记忆是 Agent 自己维护的,是必须的,持久化存储记忆;任务执行的时候得模拟人脑的遗忘,因为人在工作的时候每次都会只专注一小块内容,然后完成之后得回顾,这个回顾的机制非常重要,也就是重复读取已经加载过的上下文,必然会重复读取,这是无法避免的,不应该省的,什么都省,只会影响最终的质量;Agent 需要大量的元数据去辅助做判断,本质上是大量的决策树;Agent 在工作的时候,应该是自己拆任务的,事情是一点一点做的,非必要不并行,自动拆分任务;任务是动态规划的,实时调整的。
用文档索引,也就是文档的短描述,来模拟人类的模糊记忆,文档等于记忆,文档摘要等于模糊记忆;
Agent 应该会自己探索的,自己去寻找高效的完成任务的方式,然后积累经验,还有自己完成前置任务的;
Agent 应该有自己的工作空间,每个会话都有对应的工作目录文件夹,然后所有的记录都靠 Agent 自己维护、管理,而不是通过什么 skill 之类的来指定,要不然 skill 就脱离了职责边界,倒不如直接把 skill 写成插件或者 Agent 的机制中去。
内部的机制,我希望 Agent 像一个大学生一样,然后用户是大学生的老师之类的。 大学生要是想获得高分成绩,就得拼命好好完成任务,并且导师的任务通常是模糊的,需要大学生自己想办法。
Agent 系统应该是自进化的,当他自己意识到很多相似的内容的时候,应该主动形成一种经验,类似专家一样,类似人类的行业专家,积累了大量的经验,打磨了大量的细节的时候,就不需要在完成任务的时候花那么多时间探索了,直接借用过往的知识、经验,快速的依靠直觉(知识库)进行判断,形成一种独特的"skill",技能过期,实际上就是知识库过期了,得重新积累经验,就是重新学习。人有遗忘技能的时候,Agent 也应该有遗忘或者学习不及时的时候,本来就是与时俱进的系统。
Agent,应该支持唯一入口,就是无论什么内容,只需要一个会话就足够了,不需要开很多会话,独立管理,这样的 Agent 才完整,才是个人的专属 Agent,否则,Agent 永远也无法理解完整的用户的行为特征、偏好习惯。实际上,就是把 Agent 当成自己的替身一样,逐渐解放自己。那么只有一个唯一入口的话,对于输入的处理就应该更加复杂,判断、分类、归属。
在实现 Agent 的内部机制的时候,需要大量的"中间件"去引导,这些"中间件"就像人的器官、神经系统一样,可以像插件一样更换的,人也有进化的时候,这些中间件也应该有进化的时候。例如:会话管理层、记忆管理层、思考层、反思层、技能维护层、习惯偏好维护层、决策层、视觉层、执行层、学习层、遗忘层等等。
是这些机制功能组成的这个 Agent。这个 Agent 就像是一个婴儿般,逐渐长大,然后学会各种技能,逐渐成熟、独立自主。
总结,最重要的一点是,这个 Agent 天生有一些本能机制,这些本能机制就是模拟的生物的本能,”刻进 DNA“(内部机制)一样。
我对于这种内部机制,理解为"系统提示词",更恰当的说法是:元认知,Agent 应该遵守的原则。Agent 依靠这些简单的、简洁的原则,可以自己推出后续所有的内容,所有的"最佳实践"。灵感来源于"鱼群实验",只需要三个最简单的规则,就能够躲避鲨鱼,世界上各种各样的任务,各种各样的行业,不是去手动维护每个领域的”最佳实践“,而是让 Agent 自己形成,自己遵守原则从而达到"最佳实践"的效果,解放用户输入的指令引导,只需要像老师一样,发布任务,然后 Agent 自己为了获得高分而去努力。 我简单的检索过,网上也有类似的观点,甚至相关的论文。例如:一个日本的网站"https://chronoviq.com/technology/axiarch-ai-governance-framework/",Github 上还有开源项目
补充:突然想起来,还有一层非常重要,前面提到的原则、自进化,没有对应的评价机制,评价反馈的话,就没有进化的参考。当时我设想的是,再引入一个额外的机制,让 Agenti 自己讨论,交流经验,防止出现局部最优(闭门造车的现象),然后自己仲裁、对比,可以用户作为最终的评价者,因为老师是要对结果成绩进行打分的嘛,这也是老师(用户)提出来的修改建议,然后 Agent 自己反思总结,进行对应的调整,然后逐渐同步用户的习惯。
所以说,Agent 应该是跟用户高度绑定的,包括整个 Agent、数据都得打包,就是复制人。
元认知: 做事情,做得有道理,有逻辑