Wisdom of Two Crowds: Misinformation Moderation on Reddit and How to Improve this Process---A Case Study of COVID-19
Wisdom of Two Crowds: Misinformation Moderation on Reddit and How to Improve this Process---A Case Study of COVID-19
复制标题
两群人的智慧：Reddit 上的错误信息审核以及如何改进这一流程——以 COVID-19 为例
DOI：
10.1145/3579631
复制
发表时间：
2023
影响因子：
--
通讯作者：
Budak, Ceren
中科院分区：
文献类型：
--
作者：
Bozarth, Lia;Im, Jane;Quarles, Christopher;Budak, Ceren
过去的工作已经探索了在线平台利用人群智慧来检测和缓和错误信息的各种方法。然而，平台经常将治理下放给他们的社区，并且从这些社区及其版主的角度进行的研究有限。目前，在高度自治的网络社区中，错误信息是如何被缓和的？群众在这个过程中扮演了什么样的角色，如何改进这个过程？在这项研究中，我们通过对Reddit版主的半结构化访谈来回答这些问题。我们专注于COVID-19错误信息的案例研究。首先，我们的分析确定了一个通用的适度工作流模型，该模型包含参与者用于处理COVID-19错误信息的各种流程。此外，我们表明审核工作流程围绕三个要素：内容真实性、用户意图和感知伤害。接下来，我们的采访显示，Reddit版主依靠两种类型的人群智慧来检测错误信息。几乎所有参与者都严重依赖普通用户群体的报告来识别潜在的错误信息。另一群人——参与者自己的审核团队和其他社区的专家审核人员——在参与者遇到困难、模棱两可的情况时提供支持。最后，我们使用设计探针来更好地理解Reddit上随时可用的不同类型的人群信号（来自普通用户和版主）如何帮助版主识别错误信息。我们观察到，近一半的参与者更喜欢这些线索，而不是来自专家事实检查员的标签，因为这些线索可以帮助他们辨别用户意图。此外，四分之一的参与者不信任专业的事实核查人员，这引发了对虚假信息节制的重要担忧。
Past work has explored various ways for online platforms to leverage crowd wisdom for misinformation detection and moderation. Yet, platforms often relegate governance to their communities, and limited research has been done from the perspective of these communities and their moderators. How is misinformation currently moderated in online communities that are heavily self-governed? What role does the crowd play in this process, and how can this process be improved? In this study, we answer these questions through semi-structured interviews with Reddit moderators. We focus on a case study of COVID-19 misinformation. First, our analysis identifies a general moderation workflow model encompassing various processes participants use for handling COVID-19 misinformation. Further, we show that the moderation workflow revolves around three elements: content facticity, user intent, and perceived harm. Next, our interviews reveal that Reddit moderators rely on two types of crowd wisdom for misinformation detection. Almost all participants are heavily reliant on reports from crowds of ordinary users to identify potential misinformation. A second crowd--participants' own moderation teams and expert moderators of other communities--provide support when participants encounter difficult, ambiguous cases. Finally, we use design probes to better understand how different types of crowd signals---from ordinary users and moderators---readily available on Reddit can assist moderators with identifying misinformation. We observe that nearly half of all participants preferred these cues over labels from expert fact-checkers because these cues can help them discern user intent. Additionally, a quarter of the participants distrust professional fact-checkers, raising important concerns about misinformation moderation.
登录
查看更多内容
适度的透明度真的很重要吗？
DOI：
--
发表时间：
2019
期刊：
Proc. ACM Hum. Comput. Interact.
影响因子：
--
作者：
Shagun Jhaver;A. Bruckman;Eric Gilbert
通讯作者：
Eric Gilbert
影响因子：
8.5
作者：
Charquero-Ballester, Marina;Walter, Jessica G.;Bechmann, Anja
通讯作者：
Bechmann, Anja
公众对科学的信任能在疫情中幸存下来吗？
DOI：
10.1021/cen-09903-feature1
发表时间：
2021
期刊：
C&EN Global Enterprise
影响因子：
--
作者：
R. Cross
通讯作者：
R. Cross
从 COVID-19 期间 Reddit 内容审核经验的角度审视内容审核系统的效率
DOI：
10.2139/ssrn.4007864
发表时间：
2022
期刊：
SSRN Electronic Journal
影响因子：
--
作者：
Waleed Iqbal;Gareth Tyson;Ignacio Castro
通讯作者：
Ignacio Castro
以权衡为中心的内容审核框架
影响因子：
3.7
作者：
J. Jiang;Peipei Nie;Jed R. Brubaker;Casey Fiesler
通讯作者：
Casey Fiesler