Fair and Robust Classification Under Sample Selection Bias
Fair and Robust Classification Under Sample Selection Bias
复制标题
样本选择偏差下的公平稳健分类
DOI：
10.1145/3459637.3482104
复制
发表时间：
2021
期刊：
影响因子：
--
通讯作者：
Wu, Xintao
中科院分区：
文献类型：
--
作者：
Du, Wei;Wu, Xintao
为了解决训练数据和测试数据之间的样本选择偏差，以往的研究工作主要集中在对有偏差的训练数据进行重新加权以匹配测试数据，然后在重新加权的训练数据上建立分类模型。然而，如何在已建立的分类模型中实现公平性还没有得到充分的探索。本文提出了一个样本选择偏差下的稳健公平学习框架。该框架采用重加权估计方法进行偏差校正，采用极小极大稳健估计方法实现预测精度的稳健性。在极小极大优化过程中，实现了最坏情况下的公平性，保证了模型对测试数据的公平性。我们进一步开发了两个算法来处理样本选择偏差，当测试数据既可用又不可用时。
To address the sample selection bias between the training and test data, previous research works focus on reweighing biased training data to match the test data and then building classification models on the reweighed training data. However, how to achieve fairness in the built classification models is under-explored. In this paper, we propose a framework for robust and fair learning under sample selection bias. Our framework adopts the reweighing estimation approach for bias correction and the minimax robust estimation approach for achieving robustness on prediction accuracy. Moreover, during the minimax optimization, the fairness is achieved under the worst case, which guarantees the model's fairness on test data. We further develop two algorithms to handle sample selection bias when test data is both available and unavailable.
登录
查看更多内容
重新审视分类中的分布式鲁棒监督学习
DOI：
--
发表时间：
2016
期刊：
影响因子：
--
作者：
Weihua Hu;Gang Niu;Issei Sato;Masashi Sugiyama
通讯作者：
Masashi Sugiyama
DOI：
--
发表时间：
2020-06
期刊：
ArXiv
影响因子：
--
作者：
Preethi Lahoti;Alex Beutel;Jilin Chen;Kang Lee;Flavien Prost;Nithum Thain;Xuezhi Wang;Ed H. Chi
通讯作者：
Preethi Lahoti;Alex Beutel;Jilin Chen;Kang Lee;Flavien Prost;Nithum Thain;Xuezhi Wang;Ed H. Chi
DOI：
10.1609/aaai.v34i04.6002
发表时间：
2019-03
期刊：
--
影响因子：
--
作者：
Ashkan Rezaei;Rizal Fathony;Omid Memarrast;Brian D. Ziebart
通讯作者：
Ashkan Rezaei;Rizal Fathony;Omid Memarrast;Brian D. Ziebart
公平机器学习中来自偏见数据的残余不公平
DOI：
--
发表时间：
2018
期刊：
Proceedings of the 35th International Conference on Machine Learning
影响因子：
--
作者：
Kallus, Nathan;Zhou, Angela
通讯作者：
Zhou, Angela
处理有条件的歧视
DOI：
--
发表时间：
2011
期刊：
2011 IEEE 11th International Conference on Data Mining
影响因子：
--
作者：
Indrė Žliobaitė;F. Kamiran;T. Calders
通讯作者：
T. Calders