AI 研究arXiv cs.LGSIGNAL E8D30F

SynAct:以决策级主动反馈提升LLM智能体表现

原始标题 / SynAct: Synergistic Active Feedback Learning for LLM Agents

该研究提出SynAct框架,将专家反馈从任务级细化到决策级,通过互信息识别对最终结果有影响的关键决策点,从而在专家注意力稀缺时更有效地提升LLM智能体的多步工作流准确率。

01 摘要

LLM智能体在多步任务中失败可归为可恢复失误与知识缺口两类,前者重试可修复,后者需外部反馈。SynAct将专家反馈视为稀缺资源,在决策级别上根据所选动作与最终结果间的互信息排序,将反馈集中在最高价值的决策上,并将纠正蒸馏为可复用规则。作者报告在四个基准和四个模型共16个设置中均提升泛化准确率,平均+11.7个百分点。

02 关键点

  1. SynAct将专家反馈分配到单个决策级别,而非整个任务级别,以应对专家注意力稀缺的约束。
  2. 通过重复采样计算动作与最终结果之间的互信息,识别出对结果有区分度的决策点,理论分析给出了分离条件。
  3. 在多基准多模型评估中,SynAct平均提升11.7个百分点,且单一针对性纠正优于多次无目标重试。
  4. 该信号还可用于推理时路由,在多数设置中优于预算匹配的级联、不确定性和专家判断路由策略。
回到一手来源

AI GENERATED SUMMARY / DISCOVERED BY ARXIV CS.LG

阅读原文 ↗