Algorithms that "Don't See Color": Measuring Biases in Lookalike and Special Ad Audiences
Algorithms that "Don't See Color": Measuring Biases in Lookalike and Special Ad Audiences
复制标题
“看不到颜色”的算法：测量相似和特殊广告受众的偏差
DOI：
10.1145/3514094.3534135
复制
发表时间：
2022
期刊：
影响因子：
--
通讯作者：
Mislove, Alan
中科院分区：
文献类型：
--
作者：
Sapiezynski, Piotr;Ghosh, Avijit;Kaplan, Levi;Rieke, Aaron;Mislove, Alan
研究人员和记者一再表明，在信贷、就业、医疗保健或刑事司法等领域常用的算法可能会产生歧视性影响。一些组织试图通过简单地从算法输入中删除敏感特征来减轻这些影响。在本文中，我们利用一个独特的机会来探讨这种方法的局限性。2019年，Facebook同意通过从一种算法的输入中删除某些敏感特征来解决诉讼，该算法识别的用户与广告商为广告定位提供的用户相似，从而向广告商提供修改过的和未修改过的算法版本。我们开发了一些方法来衡量这种修改后的算法相对于未修改的算法产生的受众的性别、年龄和种族方面的偏见。我们的结果提供了实验证明，仅仅从现实世界的算法系统的输入中删除人口统计特征可能无法防止有偏见的输出。因此，使用算法来帮助调解获得重要生活机会的组织应该考虑其他方法来减轻歧视影响。
Researchers and journalists have repeatedly shown that algorithms commonly used in domains such as credit, employment, healthcare, or criminal justice can have discriminatory effects. Some organizations have tried to mitigate these effects by simply removing sensitive features from an algorithm's inputs. In this paper, we explore the limits of this approach using a unique opportunity. In 2019, Facebook agreed to settle a lawsuit by removing certain sensitive features from inputs of an algorithm that identifies users similar to those provided by an advertiser for ad targeting, making both the modified and unmodified versions of the algorithm available to advertisers. We develop methodologies to measure biases along the lines of gender, age, and race in the audiences created by this modified algorithm, relative to the unmodified one. Our results provide experimental proof that merely removing demographic features from a real-world algorithmic system's inputs can fail to prevent biased outputs. As a result, organizations using algorithms to help mediate access to important life opportunities should consider other approaches to mitigating discriminatory effects.
登录
查看更多内容
种族意识现实中的色盲理想：种族关系新法律理想的案例
DOI：
--
发表时间：
2011
期刊：
影响因子：
--
作者：
D. Peery
通讯作者：
D. Peery
种族中立政策的失败：强制性条款和量刑增强如何导致大规模种族化监禁
DOI：
--
发表时间：
2011
期刊：
影响因子：
--
作者：
Traci Schlesinger
通讯作者：
Traci Schlesinger
DOI：
10.1145/1401890.1401959
发表时间：
2008-08
期刊：
ArXiv
影响因子：
--
作者：
D. Pedreschi;S. Ruggieri;F. Turini
通讯作者：
D. Pedreschi;S. Ruggieri;F. Turini
构图下的公平性
DOI：
--
发表时间：
2019
期刊：
10th Innovations in Theoretical Computer Science Conference (ITCS 2019
影响因子：
--
作者：
Dwork, C;Ilvento, C
通讯作者：
Ilvento, C
DOI：
--
发表时间：
2004
期刊：
影响因子：
--
作者：
M. Anderson
通讯作者：
M. Anderson