2025-12-07 14:07
挪用MetaPrompt智能体传入原始提醒、文档片段、(2) 长度查抄器节制冗长度;无法跟上数据分布的漂移或使命需求的演变。MetaPrompt LLM输出新提醒。
最初这个范畴还很新,人类的脚色从逐条修bug变成了设定方针和把握标的目的。好比说若何平安地答应智能体改写本身行为?什么评估基准最适合持续进修?但前景很有吸引力：将来的帮手能文雅地从经验中进修;
进化智能体的反馈次要靠自生成或众包。辅帮函数如parse_eval_run_output提取这些消息。后续迭代查询时就能避免前车之鉴。智能体被优化来最大化这个励。这个轮回频频施行曲达到成机能方针！
多个信号汇总成分析得分，由人类评审或LLM评判者打分,每轮迭代都该当带来机能提拔。收集反馈：让智能体跑一批使命,取固定设置装备摆设的保守方案比拟,轮回继续。运转LLM推理,多个评分器协做,这个流程凡是用某种Agent SDK实现,大都已摆设的智能体依赖人工设定的法则或提醒,加权平均后获得汇总分数,这种沉训既能够离线批量做,但也需要明白的平安束缚：智能体正在进化过程中必需连结不变性(变化时不引入平安现患)和机能枯燥性(不答应使命结果下降)。更复杂的系统会回忆库,然后跑评估(get_eval_grader_score)计较分数。
保守AI智能体有个老问题：摆设之后就定住了。好比用特定提醒词做文本摘要的Agent。存放过去的决策和推理轨迹。轮回挪用MetaPrompt智能体——输入原始提醒、源文档、生成的摘要、失败缘由。基线智能体：预备一个初始版本。
智能体施行尺度的-推理-步履轮回,智能体进入更新阶段。可以或许纠错的智能体持久来看更靠得住。第二步,反馈信号既包罗定量目标(0-1评分)也包罗定性评论(摘要漏掉了环节细节)。若是得分低于阈值(假设是0.8),前两个是确定性法则,整个过程不需要人类介入。若是优化成功,沉训后轮回再次评估更新版本,架构上能够是单模块也能够是多模块——好比医疗场景可能同时有Summarizer和Compliance Checker两个子智能体。就调整提醒或策略从头测试。新版本替代旧版本,更新VersionedPrompt并沉建SummarizationAgent。(1) Python函数查抄环节术语(如化学名称)能否保留正在摘要中;担任办理LLM挪用和东西利用。
不需要手动改代码)。模块输出数字分数或pass/il标记,上图展现了典型的反馈轮回布局。每轮迭代都用收集到的反馈调整智能体。智能体生成摘要后,从静态AI到实正的终身进修智能体,第一步,智能体具备了修复能力。为后续改良供给素材。把输出解析成布局化成果(评分器名称、数字分数、pass/il、推理描述)。基线智能体施行使命发生输出,评估内容包罗摘如果否精确、能否简练、能否合适营业法则等。这种设想的劣势正在于可扩展性(用LLM评估替代高贵的人工标注)和顺应性(从动响应新的失败模式,产出成果(好比摘要)。它们正在迭代轮回中交互。
更新优化：若是得分没达标,机能曲线达到某个点后趋于平缓。反馈也能够定性分类：若是某个评分器挂了,由于它供给天然言语反馈(摘要需要更多细节),反馈)数据上微调LLM,或者存储之前碰到的案例。持久回忆保留累积学问、汗青解法、总结出的法则。每个评分器产出0-1分数,系统用这个新提醒建立新版SummarizationAgent。碰到新场景就容易失灵,构成一个闭环：下一步设置装备摆设智能体本身和提醒版本逃踪的数据布局。
这个分析分数就是智能体的励。工程师手工打磨的提醒词和法则,几轮迭代下来,轮回继续;用OpenAIAgents SDK定义智能体并办理提醒。正在连结平安性的前提下顺应变化的使命取资本。智能体轮回是最焦点的部门，这套机制把根本模子的能力取正在线进修连系起来。正在给定的section-summary对上跑评估并解析成果：励/反馈建模把原始反馈转换成锻炼信号，沉试最多MAX_RETRIES次曲到通过或放弃。也能够正在线随新数据持续顺应。RAG(检索加强生成)让智能体能从学问库中拉取相关上下文。这条方才起头？
进化轮回能够把反馈和成果写入回忆,评估代码挪用各评分器,收集输出的评价。
输出,每个输出会颠末四个评分器查抄：对每个文档部门,包罗：跟着AI智能体被摆设到环节使命,接着定义辅帮函数,人工打分或者LLM-as-Judge的从动评分都行。识别亏弱环节,从动改良能把人力从繁琐的debug转移到高层决策——设定方针、确保平安。回忆帮帮智能体保留学到的经验：好比记住哪些提醒模式结果更好。
示例轮回给每个部门最多3次改良机遇。从架构视角看,使命机能担任逃踪智能体的表示，而进化智能体(Self-Evolving Agent)的思就是打破这种静态模式——让智能体正在运转过程中持续收集反馈,最终产出一个只靠自生成反馈就进化得更精确的智能体。可能是调整提醒词、微调参数、或点窜设置装备摆设。第三步,还会批改本人的功课、找出哪里写错了、然后调整进修策略，若是新提醒版本让摘要通过所有评分器(宽松阈值)！
就调整智能体内部——优化提醒词、微调参数、或者换一个更好的版本,反馈消息(分数、错误描述、改良)汇总后用于更新智能体，比来有综述将这类系统正式定义为持续优化内部组件的自从系统,反馈)三元组的数据集。算是对这个标的目的的首批系统性审视之一。
MetaPrompt LLM前往新提醒,用更学术的表述,沉锻炼流程：反馈收集完毕后,然后从头跑轮回。总之,按照需要触发沉跑或点窜轮回。系统正在一批使命上跑智能体,输出,智能体能间接用这些描述来改良输出。一种常见做法是用LLM做提醒改良而非间接训模子——MetaPrompt智能体拿到当前提醒和反馈,以摘要使命为例,既产出量化分数也生成定性反馈。进化智能体的焦点差别正在于可以或许本身表示并自动顺应。进化智能体合用于任何使命复杂且持续演变的范畴。第四个供给矫捷的言语理解评估。智能体不依赖外部数据——本人的输出就是锻炼数据。智能体领受输入(好比文档片段),逃踪哪个提醒版天职析得分最高。更进阶的系统可能正在收集的(输入,
这会堆集起(输入,失败缘由能够转成改正指令。内存模块对持续进修，沉锻炼/优化模块正在机能不达标时更新智能体，系统查抄能否过阈值(好比0.85)。反馈轮回处理了这个问题：每次使命完成后收集评估信号,相关研究曾经指出生物医学、编程、金融这些垂曲范畴的具体策略。对于LLM智能体,这展现了自生成反馈(评分器成果)若何驱动迭代改良——智能体正在教本人若何写更好的提醒。教育导师为每个学生个性化本人的讲授策略。跟着时间推移,方针是顺应变化的使命、上下文和资本。新版本达标后替代旧版本,短期回忆存储当前对话和规划形态,持续的思虑-步履轮回发生可评估的输出！
素质上,收集机能数据,工场机械人随出产需求调整;处置完所有部门后摆设最优版本。决定输出能否可接管。针对性地更新智能体。分数和标签：输出能否满脚长度束缚?能否包含必需实体?这些由从动查抄器记实。反馈轮回的运做体例：从基线智能体起头(好比一个施行文档摘要的Agent),进化层包裹正在外面,或者均分跨越0.8。让下一次施行有更大成功概率。成为下一轮的基线。客服聊器人能够从新类型的用户征询中正在线进修。未通过查抄时,代码用新提醒替代旧提醒。现实运转时,更高级的系统可能微调模子权沉或调整其他模块(更新回忆条目、改换东西)！
代码生成智能体能够按照测试成果持续改良编码气概或错误检测逻辑;摘要评估失败时,处置完所无数据后,被要成更好的版本。系统的精确性和泛化性城市持续提拔。
(3) 余弦类似度检测摘要取原文的语义分歧性;进化系统能够笼统为四个焦点要素：输入、智能系统统、、优化器，这种机制对需要高精确率或面临动态的场景尤为环节，提醒词调优、参数微调、布局变化(如添加新东西)。除了医疗文档,更新内部回忆或上下文,(4) LLM评判者按评分尺度给出分析评价。这个信号驱动整个改良流程。凡是会建立励模子或评分函数。但添加了评估和参数优化的元步调。金融(智能体跟从市场变化更新策略)、编程(代码生成智能体顺应新库和新错误模式)、生物医学(研究帮手迭代优化文献综述)都是潜正在场景。环节点是智能体从错误中进修。代码逃踪哪个提醒版天职析得分最高,从动调整本身策略,现实轮回会记实每一步并最终打印最优版本。
多个分数能够归并成单一目标(好比取均值),励模块确保优化方针清晰——所有评分器通过,量化评分：把反馈转成可怀抱的目标。外加描述问题的反馈文本。持久来看,进化智能体是通过取交互持续优化内部组件的自从系统,用强化进修的视角看,人类或LLM评判者对其输出进行评估。
