一句话定义
联邦域适应(federated domain adaptation) 指这样一种适配方式:源域的数据分散在多个站点(各门店、各厂区、各分支机构),不能集中;目标域有新数据但完全没有标注。要在这种条件下把模型调到目标域上可用,同时让原始数据不出站点。
它和普通域适应的区别在数据位置,和普通联邦学习的区别在目标域没有标签:源域有标注,目标域只有图像、没有答案。
它解决什么问题
模型换场景就掉点,这件事在连锁场景里几乎是结构性的:同一套识别模型,装到新开门店,灯光色温不同、层高不同、货架间距不同、摄像头型号和角度也不同,识别率就往下走。
集中式域适应的做法是把目标域数据收到一起,和源域数据联合训练。这条路在零售现场会撞上两个墙:
- 原始画面不便出店。 门店摄像头拍到的不只是商品,还有顾客。把图像集中到总部,合规评估、存储、传输都是成本。
- 目标域没有标注。 新店刚开,没人有空标数据;就算标,标出来的量也小。
联邦的思路是让数据不动、模型动。但常规联邦域适应有个现实问题:它通常要多轮通信——每轮各站点训练、上传参数、服务器聚合、再下发。门店的网络是夜间才宽裕,一轮跑得动,几十轮就跑不完;聚合策略本身也很复杂。
关键做法
arXiv 上 2026 年 10 月的一篇工作(编号 2610.30646,方法名 SKD-ETR)把这件事压到了单轮,做法有三个要点:
- 用集成给出软伪标签,并且把它平滑。 多个源域模型在目标域数据上各出一次预测,集成后作为学生的监督信号。用概率分布而不是硬标签,再做平滑处理,压掉过度自信——源模型在新场景上错得往往很自信,硬标签会把这种自信固化成训练目标。
- 学生随机初始化,一次蒸馏结束。 不做多轮聚合,也不需要复杂的服务器端加权,通信只发生一轮。
- 教师反过来向学生靠。 学生训完后,把每个源模型的参数朝学生做指数滑动平均插值,把目标域的知识回写到教师里。这一步不产生额外通信,下一批目标域数据来时,教师本身已经更适应了。
论文在 OfficeHome、Office-Caltech、DomainNet 三个公开数据集上对比,结论是精度有竞争力,同时通信与计算开销更低,在标签有噪声的情况下也更稳。
用不上的时候
- 单轮省的是通信,不是对源模型的要求。 教师集成本身要够强、要覆盖目标域的差异。源模型全都在新场景上错得离谱时,蒸馏只会把错误放大并固化。
- 平滑不是万能的。 类别极不平衡时,平滑后的软标签仍然会偏向多数类。稀有的高单价品类、季节性的临时包装,该单独补样本还是得补。
- 交换模型不等于零风险。 参数和软标签也可能泄露信息,具体风险要看交换的是什么、有没有加噪或裁剪。合规判断要以实际交换内容为准,不能因为"数据没出店"就默认安全。
- 只有几家店时不值得。 三五个门店,目标域数据量不大,本地标几百张做微调更直接、更好验收。这套方法的收益随站点数量增加才显现。
- 一次性的漂移不用训模型。 换了灯管、调了摄像头角度这类一次性变化,改硬件和曝光参数比训模型快得多。
- 品类结构变了不是域偏移。 新店卖的东西和老店不一样,这是长尾覆盖问题,域适应解决不了。
参考
arXiv:2610.30646,One-shot federated unsupervised domain adaptation with Smoothed Knowledge Distillation and teacher refinement(2026-10-22)。提出 SKD-ETR:源模型集成在目标域上产生平滑软伪标签,学生随机初始化后单轮蒸馏,再用 EMA 把学生参数插值回各源模型完成双向精炼;在 OfficeHome、Office-Caltech、DomainNet 上取得有竞争力的精度,通信与计算开销更低,对噪声监督更稳健。
延伸阅读
- 十家店十个样,模型要不要每家店都训一遍 —— 这篇讲的是这件事对门店意味着什么。
相关词条
火眼识别提供端侧视觉引擎与设备管理平台,相关方案见 火眼识别官网。