The disparate equilibria of algorithmic decision making when individuals invest rationally
The disparate equilibria of algorithmic decision making when individuals invest rationally
复制标题
个人理性投资时算法决策的不同均衡
DOI：
10.1145/3351095.3372861
复制
发表时间：
2019
期刊：
影响因子：
--
通讯作者：
J. Chayes
中科院分区：
文献类型：
--
作者：
Lydia T. Liu;Ashia C. Wilson;Nika Haghtalab;A. Kalai;C. Borgs;J. Chayes
算法决策的长期影响是由所采用的决策规则和个人反应之间的动态关系所塑造的。关注于每个人都期望得到积极分类的情形——包括许多重要的应用，如招聘和学校招生，我们研究了一种动态学习环境，在这种环境中，个人根据其群体的预期收益对积极结果进行投资，并且决策规则会被更新以实现机构利益的最大化。通过描述这些动态的均衡，我们表明，由于群体之间的异质性和可实现性的缺乏，对理想的长期结果产生了自然的挑战。我们考虑了两种干预措施，按群体分离决策规则以及补贴投资成本。我们表明，在可实现的情况下，分离能实现最优结果，但在其他情况下可能会产生不同的效果，这可能取决于初始条件。相比之下，即使在缺乏可实现性的情况下，补贴投资成本也被证明能为弱势群体创造更好的均衡。
The long-term impact of algorithmic decision making is shaped by the dynamics between the deployed decision rule and individuals' response. Focusing on settings where each individual desires a positive classification---including many important applications such as hiring and school admissions, we study a dynamic learning setting where individuals invest in a positive outcome based on their group's expected gain and the decision rule is updated to maximize institutional benefit. By characterizing the equilibria of these dynamics, we show that natural challenges to desirable long-term outcomes arise due to heterogeneity across groups and the lack of realizability. We consider two interventions, decoupling the decision rule by group and subsidizing the cost of investment. We show that decoupling achieves optimal outcomes in the realizable case but has discrepant effects that may depend on the initial conditions otherwise. In contrast, subsidizing the cost of investment is shown to create better equilibria for the disadvantaged group even in the absence of realizability.
登录
查看更多内容
预测警务中失控的反馈循环
DOI：
--
发表时间：
2018
期刊：
and Transparency
影响因子：
--
作者：
Ensign, Danielle;Friedler, Sorelle A.;Neville, Scott;Scheidegger, Carlos;Venkatasubramanian, Suresh
通讯作者：
Venkatasubramanian, Suresh
DOI：
--
发表时间：
2019
期刊：
In Proceedings of ACM FAT*
影响因子：
--
作者：
Milli, Smitha;Miller, John;Dragan, Anca;Hardt, Moritz
通讯作者：
Hardt, Moritz
公平机器学习中来自偏见数据的残余不公平
DOI：
--
发表时间：
2018
期刊：
Proceedings of the 35th International Conference on Machine Learning
影响因子：
--
作者：
Kallus, Nathan;Zhou, Angela
通讯作者：
Zhou, Angela
DOI：
--
发表时间：
2015
期刊：
--
影响因子：
--
作者：
Raj Chetty;Nathaniel Hendren;Lawrence Katz
通讯作者：
Raj Chetty;Nathaniel Hendren;Lawrence Katz
DOI：
--
发表时间：
2019
期刊：
Proceedings of the 36th International Conference on Machine Learning
影响因子：
--
作者：
Liu, Lydia T.;Simchowitz, Max;Hardt, Moritz
通讯作者：
Hardt, Moritz