The AI Incident Database as an Educational Tool to Raise Awareness of AI Harms: A Classroom Exploration of Efficacy, Limitations, & Future Improvements
The AI Incident Database as an Educational Tool to Raise Awareness of AI Harms: A Classroom Exploration of Efficacy, Limitations, & Future Improvements
复制标题
人工智能事件数据库作为提高人工智能危害意识的教育工具：对有效性、局限性的课堂探索
DOI：
10.1145/3617694.3623223
复制
发表时间：
2023
期刊：
影响因子：
--
通讯作者：
Heidari, Hoda
中科院分区：
文献类型：
--
作者：
Feffer, Michael;Martelaro, Nikolas;Heidari, Hoda
之前的工作已经确定了将人工智能伦理主题纳入计算机和数据科学课程的重要性。我们提供的证据表明，人工智能伦理教育的关键目标之一必须是提高对人工智能危害的认识。虽然有各种来源可以了解这些伤害，但人工智能事件数据库（AIID）是为数不多的尝试之一，它提供了一个相对全面的数据库，索引了在真实的世界中部署人工智能技术所造成的伤害或接近伤害的先前实例。这项研究评估了AIID作为一种教育工具的有效性，以提高人们对社会高风险领域AI危害的普遍性和严重性的认识。我们通过在R1机构进行的课堂研究获得了研究结果，作为课程的一部分，重点关注AI和ML的社会和伦理考虑。我们的定性研究结果描述了学生对人工智能伦理核心主题的初步看法，以及他们希望缩小他们的技术技能与系统思考其工作的伦理和社会方面的能力之间的教育差距。我们发现，与数据库的互动有助于学生更好地了解人工智能危害的程度和严重性，并向他们灌输一种紧迫感，即（a）设计功能和安全的人工智能，（B）加强治理和问责机制。最后，我们将学生对该工具和课堂活动的反馈汇编成可操作的建议，供数据库开发团队和更广泛的社区使用，以提高人们对人工智能道德教育中人工智能危害的认识。
Prior work has established the importance of integrating AI ethics topics into computer and data sciences curricula. We provide evidence suggesting that one of the critical objectives of AI Ethics education must be to raise awareness of AI harms. While there are various sources to learn about such harms, The AI Incident Database (AIID) is one of the few attempts at offering a relatively comprehensive database indexing prior instances of harms or near harms stemming from the deployment of AI technologies in the real world. This study assesses the effectiveness of AIID as an educational tool to raise awareness regarding the prevalence and severity of AI harms in socially high-stakes domains. We present findings obtained through a classroom study conducted at an R1 institution as part of a course focused on the societal and ethical considerations around AI and ML. Our qualitative findings characterize students’ initial perceptions of core topics in AI ethics and their desire to close the educational gap between their technical skills and their ability to think systematically about ethical and societal aspects of their work. We find that interacting with the database helps students better understand the magnitude and severity of AI harms and instills in them a sense of urgency around (a) designing functional and safe AI and (b) strengthening governance and accountability mechanisms. Finally, we compile students’ feedback about the tool and our class activity into actionable recommendations for the database development team and the broader community to improve awareness of AI harms in AI ethics education.
登录
查看更多内容
DOI：
10.1145/3531146.3533107
发表时间：
2022-06
期刊：
Proceedings of the 2022 ACM Conference on Fairness, Accountability, and Transparency
影响因子：
--
作者：
Benjamin Laufer;Sameer Jain;A. Cooper;J. Kleinberg;Hoda Heidari
通讯作者：
Benjamin Laufer;Sameer Jain;A. Cooper;J. Kleinberg;Hoda Heidari
现实世界中的人工智能道德问题：来自人工智能事件数据库的证据
DOI：
10.48550/arxiv.2206.07635
发表时间：
2022
期刊：
ArXiv
影响因子：
--
作者：
Mengyi Wei;Zhixuan Zhou
通讯作者：
Zhixuan Zhou
教授计算机伦理：深入的多学科方法
DOI：
--
发表时间：
2020
期刊：
Technical Symposium on Computer Science Education
影响因子：
--
作者：
R. Reich;M. Sahami;J. Weinstein;Hilary Cohen
通讯作者：
Hilary Cohen
使用 AI 手册规划自然语言失败
DOI：
10.1145/3411764.3445735
发表时间：
2021
期刊：
Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems
影响因子：
--
作者：
Matthew K. Hong;Adam Fourney;Derek DeBellis;Saleema Amershi
通讯作者：
Saleema Amershi
DOI：
--
发表时间：
2018-08
期刊：
ArXiv
影响因子：
--
作者：
B. Grosz;D. Grant;Kate Vredenburgh;Jeff Behrends;Lily Hu;Alison Simmons;Jim Waldo
通讯作者：
B. Grosz;D. Grant;Kate Vredenburgh;Jeff Behrends;Lily Hu;Alison Simmons;Jim Waldo