Everyday Algorithm Auditing: Understanding the Power of Everyday Users in Surfacing Harmful Algorithmic Behaviors
Everyday Algorithm Auditing: Understanding the Power of Everyday Users in Surfacing Harmful Algorithmic Behaviors
复制标题
日常算法审计：了解日常用户在发现有害算法行为方面的力量
DOI：
10.1145/3479577
复制
发表时间：
2021
影响因子：
--
通讯作者：
Holstein, Kenneth
中科院分区：
文献类型：
--
作者：
Shen, Hong;DeVos, Alicia;Eslami, Motahhare;Holstein, Kenneth
越来越多的文献提出了正式的方法来审计算法系统的偏见和有害行为。虽然正式的审计方法产生了很大的影响，但它们经常遭受严重的盲点，一旦部署了系统，关键问题只会在日常使用的背景下浮出水面。近年来，算法系统的日常用户发现并提高了对他们在与这些系统的日常交互过程中遇到的有害行为的认识的情况很多。然而，到目前为止，学术界对这些自下而上、用户驱动的审计过程几乎没有给予关注。在本文中，我们提出并探索了日常算法审计的概念，这是一个用户通过与算法系统的日常交互来检测、理解和询问有问题的机器行为的过程。我们认为，无论用户对底层算法的了解如何，日常用户都可以通过更集中的组织形式的审计来发现可能躲避检测的有问题的机器行为。我们分析了几个日常算法审计的真实案例，从这些案例中吸取经验教训，为未来促进此类审计行为的平台和工具的设计提供参考。最后，我们讨论了未来的工作，旨在弥合正式审计方法和算法系统日常使用中出现的有机审计行为之间的差距。
A growing body of literature has proposed formal approaches to audit algorithmic systems for biased and harmful behaviors. While formal auditing approaches have been greatly impactful, they often suffer major blindspots, with critical issues surfacing only in the context of everyday use once systems are deployed. Recent years have seen many cases in which everyday users of algorithmic systems detect and raise awareness about harmful behaviors that they encounter in the course of their everyday interactions with these systems. However, to date little academic attention has been granted to these bottom-up, user-driven auditing processes. In this paper, we propose and explore the concept of everyday algorithm auditing, a process in which users detect, understand, and interrogate problematic machine behaviors via their day-to-day interactions with algorithmic systems. We argue that everyday users are powerful in surfacing problematic machine behaviors that may elude detection via more centrally-organized forms of auditing, regardless of users' knowledge about the underlying algorithms. We analyze several real-world cases of everyday algorithm auditing, drawing lessons from these cases for the design of future platforms and tools that facilitate such auditing behaviors. Finally, we discuss work that lies ahead, toward bridging the gaps between formal auditing approaches and the organic auditing behaviors that emerge in everyday use of algorithmic systems.
登录
查看更多内容
算法的相关性
DOI：
10.7551/mitpress/9780262525374.003.0009
发表时间：
2013
期刊：
Theory, Culture & Society
影响因子：
--
作者：
Tarleton Gillespie;P. Boczkowski
通讯作者：
P. Boczkowski
迈向用于未知未知检测的混合人类人工智能工作流程
DOI：
--
发表时间：
2020
期刊：
The Web Conference
影响因子：
--
作者：
Anthony Z. Liu;Santiago Guerra;Isaac Fung;Gabriel Matute;Ece Kamar;Walter S. Lasecki
通讯作者：
Walter S. Lasecki
随机、凌乱、有趣、原始：Finstas 作为社交媒体的亲密重新配置
DOI：
10.1145/3313831.3376424
发表时间：
2020
期刊：
Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems
影响因子：
--
作者：
Sijia Xiao;D. Metaxa;J. Park;Karrie Karahalios;Niloufar Salehi
通讯作者：
Niloufar Salehi
DOI：
10.1609/aaai.v32i1.11493
发表时间：
2018-04
期刊：
--
影响因子：
--
作者：
Gagan Bansal;Daniel S. Weld
通讯作者：
Gagan Bansal;Daniel S. Weld
更正：挖掘人工智能：机器学习训练集中的图像政治
影响因子：
3
作者：
Kate Crawford;T. Paglen
通讯作者：
T. Paglen