Does Robustness Improve Fairness? Approaching Fairness with Word Substitution Robustness Methods for Text Classification
Does Robustness Improve Fairness? Approaching Fairness with Word Substitution Robustness Methods for Text Classification
复制标题
稳健性会提高公平性吗？
DOI：
10.18653/v1/2021.findings-acl.294
复制
发表时间：
2021
期刊：
影响因子：
--
通讯作者：
Kai Wei Chang
中科院分区：
文献类型：
--
作者：
Yada Pruksachatkun;Satyapriya Krishna;J. Dhamala;Rahul Gupta;Kai Wei Chang
现有的偏差缓解方法，以减少跨队列的模型结果的差异集中在数据增强，去偏置模型嵌入，或在训练过程中添加基于公平的优化目标。另外，已经开发了经认证的单词替换鲁棒性方法，以减少虚假特征和同义词替换对模型预测的影响。虽然它们的最终目标不同，但它们都旨在鼓励模型对输入的某些变化做出相同的预测。在本文中，我们研究了实用的认证字替换鲁棒性方法，以提高平等的赔率和机会均等的多个文本分类任务。我们观察到，经过认证的鲁棒性方法提高了公平性，并且在训练中使用鲁棒性和偏差缓解方法可以在两个方面都有所改善
Existing bias mitigation methods to reduce disparities in model outcomes across cohorts have focused on data augmentation, debiasing model embeddings, or adding fairness-based optimization objectives during training. Separately, certified word substitution robustness methods have been developed to decrease the impact of spurious features and synonym substitutions on model predictions. While their end goals are different, they both aim to encourage models to make the same prediction for certain changes in the input. In this paper, we investigate the utility of certified word substitution robustness methods to improve equality of odds and equality of opportunity on multiple text classification tasks. We observe that certified robustness methods improve fairness, and using both robustness and bias mitigation methods in training results in an improvement in both fronts
登录
查看更多内容
DOI：
10.18653/v1/2021.acl-long.426
发表时间：
2021
期刊：
--
影响因子：
--
作者：
Yi Zhou;Xiaoqing Zheng;Cho-Jui Hsieh;Kai-Wei Chang;Xuanjing Huang
通讯作者：
Yi Zhou;Xiaoqing Zheng;Cho-Jui Hsieh;Kai-Wei Chang;Xuanjing Huang
DOI：
10.1145/3442188.3445910
发表时间：
2020-06
期刊：
Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency
影响因子：
--
作者：
Vedant Nanda;Samuel Dooley;Sahil Singla;S. Feizi;John P. Dickerson
通讯作者：
Vedant Nanda;Samuel Dooley;Sahil Singla;S. Feizi;John P. Dickerson
DOI：
10.18653/v1/p19-1159
发表时间：
2019-06
期刊：
--
影响因子：
--
作者：
Tony Sun;Andrew Gaut;Shirlyn Tang;Yuxin Huang;Mai Elsherief;Jieyu Zhao;Diba Mirza;E. Belding-Royer;Kai-Wei Chang;William Yang Wang
通讯作者：
Tony Sun;Andrew Gaut;Shirlyn Tang;Yuxin Huang;Mai Elsherief;Jieyu Zhao;Diba Mirza;E. Belding-Royer;Kai-Wei Chang;William Yang Wang
DOI：
10.18653/v1/n18-2003
发表时间：
2018-04
期刊：
ArXiv
影响因子：
--
作者：
Jieyu Zhao;Tianlu Wang;Mark Yatskar;Vicente Ordonez;Kai-Wei Chang
通讯作者：
Jieyu Zhao;Tianlu Wang;Mark Yatskar;Vicente Ordonez;Kai-Wei Chang
DOI：
--
发表时间：
2020-03
期刊：
ArXiv
影响因子：
--
作者：
Xuehai He;Yichen Zhang;Luntian Mou;E. Xing;P. Xie
通讯作者：
Xuehai He;Yichen Zhang;Luntian Mou;E. Xing;P. Xie