Crowdsourcing Impacts: Exploring the Utility of Crowds for Anticipating Societal Impacts of Algorithmic Decision Making
Crowdsourcing Impacts: Exploring the Utility of Crowds for Anticipating Societal Impacts of Algorithmic Decision Making
复制标题
众包的影响：探索群体在预测算法决策的社会影响方面的效用
DOI：
10.1145/3514094.3534145
复制
发表时间：
2022
期刊：
影响因子：
--
通讯作者：
Diakopoulos, Nicholas
中科院分区：
文献类型：
--
作者：
Barnett, Julia;Diakopoulos, Nicholas
随着算法在行业和政府中的日益普及，越来越多的工作正在努力解决如何理解它们的社会影响和伦理影响。在算法开发的不同阶段使用了各种方法，以鼓励研究人员和设计人员考虑他们的研究的潜在社会影响。在这一领域，一个研究不足但很有希望的领域是使用参与性远见来预测这些不同的社会影响。我们使用众包作为一种参与式预见的手段，基于一组政府算法决策工具来揭示四种不同类型的影响领域：(1)感知价格，(2)社会领域，(3)特定的抽象影响类型，以及(4)伦理算法关注。我们的发现表明，这种方法在利用人群的认知多样性来揭示一系列问题方面是有效的。我们进一步分析了确定的影响领域相互作用的复杂性，以演示众包如何能够照亮影响之间联系的模式。最终，这项工作确立了众包作为预测算法影响的有效手段，通过利用参与性远见和认知多样性来补充社会中评估算法的其他方法。
With the increasing pervasiveness of algorithms across industry and government, a growing body of work has grappled with how to understand their societal impact and ethical implications. Various methods have been used at different stages of algorithm development to encourage researchers and designers to consider the potential societal impact of their research. An understudied yet promising area in this realm is using participatory foresight to anticipate these different societal impacts. We employ crowdsourcing as a means of participatory foresight to uncover four different types of impact areas based on a set of governmental algorithmic decision making tools: (1) perceived valence, (2) societal domains, (3) specific abstract impact types, and (4) ethical algorithm concerns. Our findings suggest that this method is effective at leveraging the cognitive diversity of the crowd to uncover a range of issues. We further analyze the complexities within the interaction of the impact areas identified to demonstrate how crowdsourcing can illuminate patterns around the connections between impacts. Ultimately this work establishes crowdsourcing as an effective means of anticipating algorithmic impact which complements other approaches towards assessing algorithms in society by leveraging participatory foresight and cognitive diversity.
登录
查看更多内容
DOI：
10.1609/hcomp.v4i1.13287
发表时间：
2016-09
期刊：
--
影响因子：
--
作者：
Tyler McDonnell;Matthew Lease;Mucahid Kutlu;T. Elsayed
通讯作者：
Tyler McDonnell;Matthew Lease;Mucahid Kutlu;T. Elsayed
影响因子：
0.8
作者：
D. Guston
通讯作者：
D. Guston
丰富性：关于生活在信息丰富的世界中的体验
影响因子：
7.9
作者：
Ingrid Bejerman
通讯作者：
Ingrid Bejerman
影响因子：
8.2
作者：
McKenzie, CRM;Liersch, MJ;Finkelstein, SR
通讯作者：
Finkelstein, SR
新闻自动化：算法如何重写媒体
影响因子：
5.4
作者：
O. Dovbysh
通讯作者：
O. Dovbysh