Auto-FL-Research:联邦学习算法的自主搜索
联邦学习(FL)研究涉及许多小但关键的算法设计选择,如优化器变体、服务器聚合规则、本地训练计划、归一化、正则化和模型架构。这些选择人工探索成本高且难以公平比较。本文提出Auto-FL-Research(AFR),一种受限编码代理工作流,用于自动搜索FL算法配方。代理可以提出并实现候选训练算法,同时任务配置限定变异范围、计算预算、通信协议和最终模型评估。AFR在多个医疗跨孤岛FLamby任务和LEAF数据集上进行评估,结果显示在多项任务和配置上获得提升,同时揭示了种子敏感性和单次运行的失败案例,展示了代理生成候选中反复出现的机制、固定范围调优影响和单次运行假象的区别。
这条 研究论文 信号说明,来自 arXiv cs.AI 的信息已经不只是单点新闻,而是值得放进产品、研究和行业判断里的趋势线索。