Participation and Division of Labor in User-Driven Algorithm Audits: How Do Everyday Users Work together to Surface Algorithmic Harms?
Participation and Division of Labor in User-Driven Algorithm Audits: How Do Everyday Users Work together to Surface Algorithmic Harms?
复制标题
用户驱动的算法审计的参与和分工：日常用户如何共同揭露算法危害？
DOI：
10.1145/3544548.3582074
复制
发表时间：
2023
期刊：
影响因子：
--
通讯作者：
Hong, Jason
中科院分区：
文献类型：
--
作者：
Li, Rena;Kingsley, Sara;Fan, Chelsea;Sinha, Proteeti;Wai, Nora;Lee, Jaimie;Shen, Hong;Eslami, Motahhare;Hong, Jason
近年来，出现了一个有趣的现象，用户聚集在一起审问他们在日常生活中遇到的潜在有害算法行为。研究人员已经开始对这些用户驱动的审计进行理论和经验上的理解，希望利用用户的力量来检测有害的机器行为。然而，人们对用户在这些审计中的参与和分工知之甚少，这对支持未来的集体努力至关重要。通过收集和分析最近四个用户驱动的审计案例中的17,984条推文，我们揭示了用户参与和参与的模式，特别是每个案例中最大的贡献者。我们还确定了用户生成的内容在这些审计中扮演的各种角色，包括假设、数据收集、放大、情境化和上报。我们讨论了设计工具以支持用户驱动的审计和努力提高算法偏差意识的用户的含义。
Recent years have witnessed an interesting phenomenon in which users come together to interrogate potentially harmful algorithmic behaviors they encounter in their everyday lives. Researchers have started to develop theoretical and empirical understandings of these user-driven audits, with a hope to harness the power of users in detecting harmful machine behaviors. However, little is known about users’ participation and their division of labor in these audits, which are essential to support these collective efforts in the future. Through collecting and analyzing 17,984 tweets from four recent cases of user-driven audits, we shed light on patterns of users’ participation and engagement, especially with the top contributors in each case. We also identified the various roles users’ generated content played in these audits, including hypothesizing, data collection, amplification, contextualization, and escalation. We discuss implications for designing tools to support user-driven audits and users who labor to raise awareness of algorithm bias.
登录
查看更多内容
最终用户审计：一个使社区能够领导对有害算法行为进行大规模调查的系统
DOI：
--
发表时间：
2022
期刊：
Proc. ACM Hum. Comput. Interact.
影响因子：
--
作者：
Michelle S. Lam;Mitchell L. Gordon;D. Metaxa;Jeffrey T. Hancock;J. Landay;Michael S. Bernstein
通讯作者：
Michael S. Bernstein
DOI：
--
发表时间：
2018
期刊：
International Conference on Human Factors in Computing Systems
影响因子：
--
作者：
Allison Woodruff;Sarah E. Fox;Steven Rousso;J. Warshaw
通讯作者：
J. Warshaw
从懒惰主义到行动主义：社交媒体时代的参与文化
DOI：
--
发表时间：
2011
期刊：
CHI Extended Abstracts
影响因子：
--
作者：
D. Rotman;Sarah Vieweg;S. Schoenebeck;Ed H. Chi;J. Preece;B. Shneiderman;P. Pirolli;T. Glaisyer
通讯作者：
T. Glaisyer
黑推特就是金
DOI：
--
发表时间：
2022
期刊：
Interactions
影响因子：
--
作者：
Shamika Klassen
通讯作者：
Shamika Klassen
“这很复杂”：在种族、性别和残疾的图像描述中协商可访问性和（错误）表现
DOI：
--
发表时间：
2021
期刊：
International Conference on Human Factors in Computing Systems
影响因子：
--
作者：
Cynthia L. Bennett;Cole Gleason;M. Scheuerman;Jeffrey P. Bigham;Anhong Guo;Alexandra To
通讯作者：
Alexandra To