SynAct:以决策级主动反馈提升LLM智能体表现
原始标题 / SynAct: Synergistic Active Feedback Learning for LLM Agents
该研究提出SynAct框架,将专家反馈从任务级细化到决策级,通过互信息识别对最终结果有影响的关键决策点,从而在专家注意力稀缺时更有效地提升LLM智能体的多步工作流准确率。
01 摘要
LLM智能体在多步任务中失败可归为可恢复失误与知识缺口两类,前者重试可修复,后者需外部反馈。SynAct将专家反馈视为稀缺资源,在决策级别上根据所选动作与最终结果间的互信息排序,将反馈集中在最高价值的决策上,并将纠正蒸馏为可复用规则。作者报告在四个基准和四个模型共16个设置中均提升泛化准确率,平均+11.7个百分点。
02 关键点
- SynAct将专家反馈分配到单个决策级别,而非整个任务级别,以应对专家注意力稀缺的约束。
- 通过重复采样计算动作与最终结果之间的互信息,识别出对结果有区分度的决策点,理论分析给出了分离条件。
- 在多基准多模型评估中,SynAct平均提升11.7个百分点,且单一针对性纠正优于多次无目标重试。
- 该信号还可用于推理时路由,在多数设置中优于预算匹配的级联、不确定性和专家判断路由策略。
回到一手来源
阅读原文 ↗AI GENERATED SUMMARY / DISCOVERED BY ARXIV CS.LG