Toxicity in the Decentralized Web and the Potential for Model Sharing
Toxicity in the Decentralized Web and the Potential for Model Sharing
复制标题
去中心化网络的毒性和模型共享的潜力
DOI：
10.1145/3530901
复制
发表时间：
2022
期刊：
影响因子：
--
通讯作者：
Bin Zia H
中科院分区：
文献类型：
--
作者：
Bin Zia H
“去中心化网络”（DW）是一个不断发展的概念，其中包含旨在提高网络透明度和开放性的技术。 DW 依赖于以点对点方式连接在一起的独立服务器（也称为实例）来提供一系列服务（例如微博、图像共享、视频流）。然而，在这种去中心化的背景下，有毒内容的控制具有挑战性。这是因为没有可以定义毒性的中央实体，也没有可用于构建通用分类器的大型中央数据池。因此，出现几起备受瞩目的数据仓库被滥用来协调和传播有害材料的案例也就不足为奇了。使用 Pleroma（流行的 DW 微博服务）上 11.7 万用户的 990 万条帖子的数据集，我们量化了有毒内容的存在。我们发现有毒内容很普遍，并且在实例之间迅速传播。我们表明，由于缺乏足够的可用训练数据以及标记所需的工作，自动执行每个实例的内容审核具有挑战性。因此，我们提出并评估了 ModPair，这是一种有效检测有毒内容的模型共享系统，获得了平均每个实例宏 F1 分数 0.89。
The "Decentralised Web" (DW) is an evolving concept, which encompasses technologies aimed at providing greater transparency and openness on the web. The DW relies on independent servers (aka instances) that mesh together in a peer-to-peer fashion to deliver a range of services (e.g. micro-blogs, image sharing, video streaming). However, toxic content moderation in this decentralised context is challenging. This is because there is no central entity that can define toxicity, nor a large central pool of data that can be used to build universal classifiers. It is therefore unsurprising that there have been several high-profile cases of the DW being misused to coordinate and disseminate harmful material. Using a dataset of 9.9M posts from 117K users on Pleroma (a popular DW microblogging service), we quantify the presence of toxic content. We find that toxic content is prevalent and spreads rapidly between instances. We show that automating per-instance content moderation is challenging due to the lack of sufficient training data available and the effort required in labelling. We therefore propose and evaluate ModPair, a model sharing system that effectively detects toxic content, gaining an average per-instance macro-F1 score 0.89.
登录
查看更多内容
影响因子：
4.9
作者：
Burnap, Pete;Williams, Matthew L.
通讯作者：
Williams, Matthew L.
DOI：
--
发表时间：
2014-10
期刊：
ArXiv
影响因子：
--
作者：
L. Manikonda;Yuheng Hu;S. Kambhampati
通讯作者：
L. Manikonda;Yuheng Hu;S. Kambhampati
SoNet——联合在线社交网络中的隐私和复制
DOI：
--
发表时间：
2013
期刊：
2013 IEEE 33rd International Conference on Distributed Computing Systems Workshops
影响因子：
--
作者：
Lorenz Schwittmann;Christopher Boelmann;Matthäus Wander;Torben Weis
通讯作者：
Torben Weis
用于检测在线厌女症的专家注释数据集
DOI：
--
发表时间：
2021
期刊：
Conference of the European Chapter of the Association for Computational Linguistics
影响因子：
--
作者：
E. Guest;Bertie Vidgen;Alexandros Mittos;Nishanth R. Sastry;Gareth Tyson;H. Margetts
通讯作者：
H. Margetts
乳齿象
DOI：
10.1007/978-3-030-58292-0_130224
发表时间：
2021
期刊：
Encyclopedic Dictionary of Archaeology
影响因子：
--
作者：
M. Meier;Michael Schmidt;Fang Wei;G. Lausen
通讯作者：
G. Lausen