Skip to content / 跳到正文
English
导航

数据选择编辑

最后更新

可靠性约束下的训练与评估数据选择。

数据选择 是为训练、剪枝、评估或合成数据复用选择样本的过程。选择可以降低成本、提升质量,但有偏选择也会扭曲模型对目标分布的理解。

研究背景编辑

数据选择是 数据中心 ML、AI 与网络 和 合成数据 研究中的共同问题。在去中心化或数据孤岛设置中,选择通常是局部的:每个参与方只看到一部分数据,并按本地目标或约束选择样本。因此,选择不是单纯的统计预处理,而是网络化学习问题的一部分。

与乔鑫宝工作的关系编辑

数据选择出现在 样本选择偏差何以促成模型坍缩 中:有偏的本地选择会加剧递归合成数据训练的分布退化,并使低资源社区更容易发生尾部模式损失。在机器遗忘论文中,选择又以删除或重加权的形式出现。

参见编辑