分布式 Wasserstein Barycenter编辑
根据各方本地数据计算共享的 Wasserstein 参考分布。
分布式 Wasserstein barycenter 是在最优传输距离下概括多个参与方所持分布的概率测度。计算或近似这一共同参考分布,需要考虑通信和数据访问约束。1 乔鑫宝 在 AI 与网络 和 数据中心 ML 方向的研究涉及这一问题。
定义编辑
给定局部概率测度 ,权重 且 ,一个 -Wasserstein barycenter 可写作
在中心化数学表述中,所有 都可以被求解器直接访问。在分布式设置中,每个 可能对应一个本地数据集、客户端、机构或设备。因此,研究问题还包括哪些信息需要跨网络传输、哪些信息可以被压缩,以及所得 barycenter 是否能作为有效的全局分布代理。
研究背景编辑
分布式 barycenter 结合了 Wasserstein 几何、分布式学习 和 协作评估:当没有任何单一参与方拥有完整数据分布时,barycenter 可以作为共享参考分布,用于模型评估、合成数据验证、样本打分或非独立同分布客户端之间的比较。
与乔鑫宝工作的关系编辑
乔鑫宝的 ICML 2026 工作 样本选择偏差何以促成模型坍缩 已经使用协作计算的 Wasserstein 几何信息分析低资源数据孤岛下的合成数据失效。分布式 Wasserstein barycenter 在基础设施层面延续这一方向:当证据被切分在网络中时,如何计算可靠参考分布,而不是默认先汇总评估数据。
该问题连接 AI 与网络,因为计算对象会被通信模式塑造;也连接 合成数据,因为递归生成需要分布检查;同时连接 数据中心 ML,因为 barycenter 可以成为跨参与方判断数据或样本重要性的工具。
在审稿件 Decentralized Free-Support Wasserstein Barycenter 将这一方向具体化为自由支撑重心计算:通过学习支撑点位置,让共享参考适应分布几何,同时区分重心质量与网络一致性的通信需求。
参见编辑
脚注编辑
-
Agueh 和 Carlier 在 SIAM 论文 Barycenters in the Wasserstein Space 中引入 Wasserstein 空间中的 barycenter;Cuturi 和 Doucet 的 ICML 2014 论文 Fast Computation of Wasserstein Barycenters 是常用计算参考。 ↩