AI pitfalls and what not to do: mitigating bias in AI.
AI pitfalls and what not to do: mitigating bias in AI.
复制标题
DOI：
10.1259/bjr.20230023
复制
发表时间：
2023-10
期刊：
影响因子：
--
通讯作者：
中科院分区：
文献类型：
--
作者：
各种形式的人工智能（AI）应用程序正在许多医疗保健系统中部署和使用。随着这些应用程序的使用增加，我们正在了解这些模型的失败以及它们如何使偏见永久化。有了这些新的经验教训，我们需要优先考虑放射学应用的偏差评估和缓解;同时不要忽视大型企业人工智能部署变化的影响，这些变化可能会对人工智能模型的性能产生下游影响。在本文中，我们对导致AI偏见的已知陷阱进行了最新审查，并讨论了在大型医疗保健企业的AI部署背景下减轻这些偏见的策略。我们通过将这些陷阱置于更大的人工智能生命周期中来描述它们，从问题定义，数据集选择和管理，模型训练和部署，强调偏见存在于整个范围内，并且是人为和机器因素相结合的后遗症。
Various forms of artificial intelligence (AI) applications are being deployed and used in many healthcare systems. As the use of these applications increases, we are learning the failures of these models and how they can perpetuate bias. With these new lessons, we need to prioritize bias evaluation and mitigation for radiology applications; all the while not ignoring the impact of changes in the larger enterprise AI deployment which may have downstream impact on performance of AI models. In this paper, we provide an updated review of known pitfalls causing AI bias and discuss strategies for mitigating these biases within the context of AI deployment in the larger healthcare enterprise. We describe these pitfalls by framing them in the larger AI lifecycle from problem definition, data set selection and curation, model training and deployment emphasizing that bias exists across a spectrum and is a sequela of a combination of both human and machine factors.
登录
查看更多内容
影响因子：
3.7
作者：
通讯作者：
--
DOI：
10.1148/ryai.220270
发表时间：
2023-09-01
期刊：
RADIOLOGY-ARTIFICIAL INTELLIGENCE
影响因子：
--
作者：
Ahluwalia, Monish;Abdalla, Mohamed;Fine, Benjamin
通讯作者：
Fine, Benjamin
影响因子：
2.6
作者：
Khunte, M.;Chae, A.;Bai, H. X.
通讯作者：
Bai, H. X.
DOI：
10.1148/ryai.220061
发表时间：
2022-09-01
期刊：
RADIOLOGY-ARTIFICIAL INTELLIGENCE
影响因子：
--
作者：
Faghani, Shahriar;Khosravi, Bardia;Erickson, Bradley J.
通讯作者：
Erickson, Bradley J.
影响因子：
105.7
作者：
Bossuyt, Patrick M.;Reitsma, Johannes B.;Cohen, Jeremie F.
通讯作者：
Cohen, Jeremie F.