Silva: Interactively Assessing Machine Learning Fairness Using Causality
Silva: Interactively Assessing Machine Learning Fairness Using Causality
复制标题
Silva：利用因果关系交互式评估机器学习的公平性
DOI：
10.1145/3313831.3376447
复制
发表时间：
2020
期刊：
影响因子：
--
通讯作者：
Rzeszotarski, Jeffrey M.
中科院分区：
文献类型：
--
作者：
Yan, Jing Nathan;Gu, Ziwei;Lin, Hubert;Rzeszotarski, Jeffrey M.
机器学习模型存在编码开发人员或数据源不公平的风险。然而，评估公平性具有挑战性，因为分析师可能会错误地识别偏见的来源、未能注意到它们或误用指标。在本文中，我们介绍了 Silva，这是一个用于交互式探索数据集或机器学习模型中潜在不公平来源的系统。 Silva 通过全局因果视图将用户注意力引导到属性之间的关系，提供交互式建议，呈现中间结果并将指标可视化。我们描述了 Silva 的实现，确定了显着的设计和技术挑战，并与现有的公平性优化工具进行了比较，对该工具进行了评估。
Machine learning models risk encoding unfairness on the part of their developers or data sources. However, assessing fairness is challenging as analysts might misidentify sources of bias, fail to notice them, or misapply metrics. In this paper we introduce Silva, a system for exploring potential sources of unfairness in datasets or machine learning models interactively. Silva directs user attention to relationships between attributes through a global causal view, provides interactive recommendations, presents intermediate results, and visualizes metrics. We describe the implementation of Silva, identify salient design and technical challenges, and provide an evaluation of the tool in comparison to an existing fairness optimization tool.
登录
查看更多内容
DOI：
--
发表时间：
2018
期刊：
International Conference on Human Factors in Computing Systems
影响因子：
--
作者：
Allison Woodruff;Sarah E. Fox;Steven Rousso;J. Warshaw
通讯作者：
J. Warshaw
DOI：
--
发表时间：
2017
期刊：
Neural Information Processing Systems
影响因子：
--
作者：
Niki Kilbertus;Mateo Rojas;Giambattista Parascandolo;Moritz Hardt;D. Janzing;B. Scholkopf
通讯作者：
B. Scholkopf
影响因子：
64.8
作者：
Esteva A;Kuprel B;Novoa RA;Ko J;Swetter SM;Blau HM;Thrun S
通讯作者：
Thrun S
媒体技术：关于传播、物质性和社会的论文
DOI：
10.7551/mitpress/9780262525374.001.0001
发表时间：
2014
期刊：
The Journal of emergency medicine
影响因子：
--
作者：
Tarleton Gillespie;P. Boczkowski;K. Foot
通讯作者：
K. Foot
DOI：
--
发表时间：
2016
期刊：
影响因子：
--
作者：
K. Crawford
通讯作者：
K. Crawford