Towards Leveraging AI-based Moderation to Address Emergent Harassment in Social Virtual Reality
Towards Leveraging AI-based Moderation to Address Emergent Harassment in Social Virtual Reality
复制标题
利用基于人工智能的审核来解决社交虚拟现实中的突发骚扰问题
DOI：
10.1145/3544548.3581090
复制
发表时间：
2023
期刊：
影响因子：
--
通讯作者：
McNeese, Nathan J.
中科院分区：
文献类型：
--
作者：
Schulenberg, Kelsea;Li, Lingyuan;Freeman, Guo;Zamanifard, Samaneh;McNeese, Nathan J.
广泛的HCI研究已经调查了如何防止和减轻虚拟空间中的骚扰，特别是通过利用基于人类和人工智能（AI）的适度。然而，社交虚拟现实（VR）构成了一个新的社交空间，既面临着加剧的骚扰挑战，也缺乏关于如何适度解决此类骚扰的共识。通过对39位不同背景的社交VR用户的采访，我们调查了利用基于人工智能的审核来解决社交VR中的紧急骚扰的机会和限制，以及如何设计未来的人工智能审核员来增强这些机会和解决限制。我们提供了第一个实证调查，以重新设想人工智能在创新内容审核方法中的新角色，以更好地打击社交VR中的骚扰。我们还强调了设计未来基于人工智能的审核的重要原则，包括用户-人类-人工智能的协作，以实现更安全，更细致入微的在线空间。
Extensive HCI research has investigated how to prevent and mitigate harassment in virtual spaces, particularly by leveraging human-based and Artificial Intelligence (AI)-based moderation. However, social Virtual Reality (VR) constitutes a novel social space that faces both intensified harassment challenges and a lack of consensus on how moderation should be approached to address such harassment. Drawing on 39 interviews with social VR users with diverse backgrounds, we investigate the perceived opportunities and limitations for leveraging AI-based moderation to address emergent harassment in social VR, and how future AI moderators can be designed to enhance such opportunities and address limitations. We provide the first empirical investigation into re-envisioning AI’s new roles in innovating content moderation approaches to better combat harassment in social VR. We also highlight important principles for designing future AI-based moderation incorporating user-human-AI collaboration to achieve safer and more nuanced online spaces.
登录
查看更多内容
对人类的不信任是否预示着对人工智能的更大信任？
影响因子：
5
作者：
Maria D. Molina;S. Sundar
通讯作者：
S. Sundar
平台辩证法：reddit 上志愿者版主和最终用户之间的关系
影响因子：
5
作者：
Tim Squirrell
通讯作者：
Tim Squirrell
审核可见性：绘制直播微社区中志愿者审核策略
DOI：
10.1145/3452918.3458796
发表时间：
2021
期刊：
IMX '21: ACM International Conference on Interactive Media Experiences
影响因子：
--
作者：
Cai, Jie;Wohn, Donghee Yvette;Almoqbel, Mashael
通讯作者：
Almoqbel, Mashael
适度的透明度真的很重要吗？
DOI：
--
发表时间：
2019
期刊：
Proc. ACM Hum. Comput. Interact.
影响因子：
--
作者：
Shagun Jhaver;A. Bruckman;Eric Gilbert
通讯作者：
Eric Gilbert
扰乱和平：体验和减轻社交虚拟现实中新出现的骚扰
影响因子：
--
作者：
Freeman, Guo;Zamanifard, Samaneh;Maloney, Divine;Acena, Dane
通讯作者：
Acena, Dane