Making AI Explainable in the Global South: A Systematic Review
Making AI Explainable in the Global South: A Systematic Review
复制标题
让人工智能在南半球变得可解释：系统回顾
DOI：
10.1145/3530190.3534802
复制
发表时间：
2022
期刊：
影响因子：
--
通讯作者：
Vashistha, Aditya
中科院分区：
文献类型：
--
作者：
Okolo, Chinasa T.;Dell, Nicola;Vashistha, Aditya
人工智能(AI)和机器学习(ML)正在迅速普及，影响着全球所有人的生活。为了使其他“黑盒”AI/ML系统更容易理解，可解释AI(XAI)领域的目标是开发算法、工具箱、框架和其他技术，使人们能够理解、信任和管理AI系统。然而，尽管XAI是一个快速增长的研究领域，但大多数工作都集中在全球北部的背景下，对于XAI技术是否或如何在全球南部的社区进行设计、部署或测试，人们知之甚少。这一差距令人担忧，特别是考虑到政府、公司和学者对使用人工智能/ML来“解决”全球南部问题的热情迅速增长。我们的论文首次对全球南方的XAI研究进行了系统的回顾，提供了对该空间新兴工作的早期展望。我们确定了来自15个不同地点的16篇论文，这些论文针对广泛的应用领域。所有的论文都是在最近三年发表的。在16篇论文中，有13篇专注于应用技术性的XAI方法，所有这些都涉及到(至少部分)针对具体情况的数据的使用。然而，只有三篇论文与人类接触或涉及到这项工作，只有一篇论文试图将他们的XAI系统部署到目标用户。最后，我们反思了全球南方XAI研究的现状，讨论了在这些地区建立和部署XAI系统的数据和模型考虑，并强调了在全球南方以人为中心处理XAI的必要性。
Artificial intelligence (AI) and machine learning (ML) are quickly becoming pervasive in ways that impact the lives of all humans across the globe. In an effort to make otherwise ”black box” AI/ML systems more understandable, the field of Explainable AI (XAI) has arisen with the goal of developing algorithms, toolkits, frameworks, and other techniques that enable people to comprehend, trust, and manage AI systems. However, although XAI is a rapidly growing area of research, most of the work has focused on contexts in the Global North, and little is known about if or how XAI techniques have been designed, deployed, or tested with communities in the Global South. This gap is concerning, especially in light of rapidly growing enthusiasm from governments, companies, and academics to use AI/ML to “solve” problems in the Global South. Our paper contributes the first systematic review of XAI research in the Global South, providing an early look at emerging work in the space. We identified 16 papers from 15 different venues that targeted a wide range of application domains. All of the papers were published in the last three years. Of the 16 papers, 13 focused on applying a technical XAI method, all of which involved the use of (at least some) data that was local to the context. However, only three papers engaged with or involved humans in the work, and only one attempted to deploy their XAI system with target users. We close by reflecting on the current state of XAI research in the Global South, discussing data and model considerations for building and deploying XAI systems in these regions, and highlighting the need for human-centered approaches to XAI in the Global South.
登录
查看更多内容
现场故事：对 HCI4D 体验的反思
DOI：
--
发表时间：
2009
期刊：
影响因子：
--
作者：
Yaw Anokwa;Thomas N. Smyth;D. Ramachandran;J. Sherwani;Y. Schwartzman;R. Luk;Melissa R. Ho;N. Moraveji;B. DeRenzi
通讯作者：
B. DeRenzi
影响因子：
6.5
作者：
Hsu, Yen-Chia;Huang, Ting-Hao 'kenneth';Verma, Himanshu;Mauri, Andrea;Nourbakhsh, Illah;Bozzon, Alessandro
通讯作者：
Bozzon, Alessandro
可解释人工智能（XAI）中的反事实：来自人类推理的证据
DOI：
--
发表时间：
2019
期刊：
International Joint Conference on Artificial Intelligence
影响因子：
--
作者：
R. Byrne
通讯作者：
R. Byrne
人性化的人机交互
DOI：
--
发表时间：
2015
期刊：
Synthesis Lectures on Human-Centered Informatics
影响因子：
--
作者：
Jeffrey Bardzell;Shaowen Bardzell
通讯作者：
Shaowen Bardzell
可解释人工智能的利益相关者
DOI：
--
发表时间：
2018
期刊：
arXiv.org
影响因子：
--
作者：
A. Preece;Daniel Harborne;Dave Braines;Richard J. Tomsett;Supriyo Chakraborty
通讯作者：
Supriyo Chakraborty