Causal Modeling-Based Discrimination Discovery and Removal: Criteria, Bounds, and Algorithms
Causal Modeling-Based Discrimination Discovery and Removal: Criteria, Bounds, and Algorithms
复制标题
基于因果模型的歧视发现和消除：标准、界限和算法
DOI：
10.1109/tkde.2018.2872988
复制
发表时间：
2019
影响因子：
8.9
通讯作者：
Wu, Xintao
中科院分区：
文献类型：
--
作者：
Zhang, Lu;Wu, Yongkai;Wu, Xintao
反歧视是数据科学中越来越重要的任务。在本文中，我们研究了从历史数据中发现直接和间接歧视的问题，并在数据用于预测分析之前消除歧视效应（例如，构建分类器）。现有方法的主要缺点是，它们不能区分真正由歧视引起的影响的一部分，从所有相关的影响。在我们的方法中，我们利用因果图来捕获数据的因果结构。然后，我们将直接歧视和间接歧视建模为路径特定效应，准确地将这两种类型的歧视识别为沿着图中沿着不同路径传播的因果效应。对于某些情况下，间接歧视不能准确地测量，由于一些路径特定的效果的不可识别性，我们开发了一个上限和下限的间接歧视的效果。基于理论结果，我们提出了有效的算法，发现直接和间接的歧视，以及算法精确地消除这两种类型的歧视，同时保持良好的数据效用。使用真实的数据集的实验表明了我们的方法的有效性。
Anti-discrimination is an increasingly important task in data science. In this paper, we investigate the problem of discovering both direct and indirect discrimination from the historical data, and removing the discriminatory effects before the data are used for predictive analysis (e.g., building classifiers). The main drawback of existing methods is that they cannot distinguish the part of influence that is really caused by discrimination from all correlated influences. In our approach, we make use of the causal graph to capture the causal structure of the data. Then, we model direct and indirect discrimination as the path-specific effects, which accurately identify the two types of discrimination as the causal effects transmitted along different paths in the graph. For certain situations where indirect discrimination cannot be exactly measured due to the unidentifiability of some path-specific effects, we develop an upper bound and a lower bound to the effect of indirect discrimination. Based on the theoretical results, we propose effective algorithms for discovering direct and indirect discrimination, as well as algorithms for precisely removing both types of discrimination while retaining good data utility. Experiments using the real dataset show the effectiveness of our approaches.
登录
查看更多内容
使用贝叶斯网络打击歧视
影响因子：
4.1
作者：
Koray Mancuhan;Chris Clifton
通讯作者：
Chris Clifton
DOI：
--
发表时间：
2017
期刊：
Neural Information Processing Systems
影响因子：
--
作者：
Niki Kilbertus;Mateo Rojas;Giambattista Parascandolo;Moritz Hardt;D. Janzing;B. Scholkopf
通讯作者：
B. Scholkopf
DOI：
--
发表时间：
2016
期刊：
International Joint Conference on Artificial Intelligence
影响因子：
--
作者：
Lu Zhang;Yongkai Wu;Xintao Wu
通讯作者：
Xintao Wu
DOI：
10.1145/1401890.1401959
发表时间：
2008-08
期刊：
ArXiv
影响因子：
--
作者：
D. Pedreschi;S. Ruggieri;F. Turini
通讯作者：
D. Pedreschi;S. Ruggieri;F. Turini
实现数据发布中的非歧视
DOI：
10.1145/3097983.3098167
发表时间：
2017
期刊：
the 23rd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (KDD
影响因子：
--
作者：
Zhang, Lu;Wu, Yongkai;Wu, Xintao
通讯作者：
Wu, Xintao