批量主动学习新方法FractAL避免策略选择开销
原始标题 / Soft Strategy Selection for Batch-Mode Active Learning
针对批量主动学习中预先选择采集策略的难题,提出软策略选择框架FractAL,利用影响函数归因和在线镜像下降,无需重训练即可在多策略间动态分配批量预算。在7个分类、回归和遗传扰动效应预测基准上,FractAL匹配或超越所有基线,为高吞吐实验等少轮次大批次场景提供实用方案。
01 摘要
原文指出,实际部署主动学习时必须在未标注数据前选定采集策略,而策略性能因数据集和代理模型而异,现有选择方法需多轮探索,开销大。为此作者提出软策略选择,在单一批次内混合使用多个策略,并用FractAL通过影响函数推断每个策略的回报,用在线镜像下降计算预算份额。基准测试显示,FractAL在7个设定中均不劣于随机采样和所有基线,能集中预算于强策略。
02 关键点
- FractAL通过影响函数归因推断每个策略的回报,无需额外模型重训练,再用在线镜像下降分配批量预算。
- 在7个覆盖分类、回归和遗传扰动效应预测的设定中,每个现有策略选择方法至少在一个设定上不如随机采样,而FractAL在所有设定上匹配或超越包括随机采样在内的基线。
- FractAL能自动将预算集中于表现最好的策略并淘汰最弱策略,适合多策略可用但最优策略未知的部署场景。
回到一手来源
阅读原文 ↗AI GENERATED SUMMARY / DISCOVERED BY ARXIV CS.LG