影响函数编辑
估计训练样本对已训练模型影响的方法。
影响函数 是估计某个训练样本如何影响拟合模型或下游预测的分析工具。在现代机器学习中，它经常作为近似方法使用：与其在每次改变样本后重新训练，不如通过梯度和曲率信息估计影响。1
研究背景编辑
如果研究者能够估计一个点、一组样本或一个加权子集的影响，就可以判断哪些数据应删除、下调权重、保留或检查。影响函数因此连接 数据选择、机器遗忘、公平性修正和鲁棒性分析。
与乔鑫宝工作的关系编辑
乔鑫宝的机器遗忘工作通过分析数据对模型的影响来设计更新方法。无 Hessian 在线认证遗忘 依赖避免显式 Hessian 求逆的高效更新；超越二元擦除 用加权影响把删除问题转化为公平性和鲁棒性修正问题。影响函数为这些数据操作提供局部敏感性分析工具。
参见编辑
脚注编辑
-
Koh 和 Liang 的 “Understanding Black-box Predictions via Influence Functions”（ICML 2017）把经典影响函数思想重新引入现代机器学习预测解释。 ↩