Imagining new futures beyond predictive systems in child welfare: A qualitative study with impacted stakeholders
Imagining new futures beyond predictive systems in child welfare: A qualitative study with impacted stakeholders
复制标题
想象儿童福利预测系统之外的新未来：与受影响的利益相关者进行的定性研究
DOI：
10.1145/3531146.3533177
复制
发表时间：
2022
期刊：
影响因子：
--
通讯作者：
Zhu, Haiyi
中科院分区：
文献类型：
--
作者：
Stapleton, Logan;Lee, Min Hun;Qing, Diana;Wright, Marya;Chouldechova, Alexandra;Holstein, Ken;Wu, Zhiwei Steven;Zhu, Haiyi
美国各地的儿童福利机构正在转向数据驱动的预测技术（通常称为预测分析），该技术使用政府行政数据来帮助工作人员进行决策。虽然之前的一些工作已经探讨了受影响的利益相关者对当前使用数据驱动的预测风险模型（PRM）的担忧，但很少有工作询问利益相关者是否应该首先使用这些工具。在这项工作中，我们与35名受儿童福利系统影响或在其中工作的利益相关者进行了一组七个设计研讨会，以了解他们对PRM的信念和担忧，并让他们参与想象数据和技术在儿童福利系统中的新用途。我们发现，参与者担心目前的PRM会延续或加剧儿童福利方面的现有问题。与会者提出了使用数据和数据驱动工具的新方法，以更好地支持受影响的社区，并提出了减轻这些工具可能造成的危害的途径。与会者还建议采用低技术或无技术的替代品来解决儿童福利问题。我们的研究揭示了研究人员和设计师如何与受影响的社区团结合作，可能会绕过或反对儿童福利机构。
Child welfare agencies across the United States are turning to data-driven predictive technologies (commonly called predictive analytics) which use government administrative data to assist workers’ decision-making. While some prior work has explored impacted stakeholders’ concerns with current uses of data-driven predictive risk models (PRMs), less work has asked stakeholders whether such tools ought to be used in the first place. In this work, we conducted a set of seven design workshops with 35 stakeholders who have been impacted by the child welfare system or who work in it to understand their beliefs and concerns around PRMs, and to engage them in imagining new uses of data and technologies in the child welfare system. We found that participants worried current PRMs perpetuate or exacerbate existing problems in child welfare. Participants suggested new ways to use data and data-driven tools to better support impacted communities and suggested paths to mitigate possible harms of these tools. Participants also suggested low-tech or no-tech alternatives to PRMs to address problems in child welfare. Our study sheds light on how researchers and designers can work in solidarity with impacted communities, possibly to circumvent or oppose child welfare agencies.
登录
查看更多内容
偏好诱导和聚合有助于在 COVID-19 大流行期间进行患者分类
DOI：
--
发表时间：
2020
期刊：
影响因子：
--
作者：
Caroline M Johnston;Simon Blessenohl;P. Vayanos
通讯作者：
P. Vayanos
公共就业服务中的算法工具：以求职者为中心的视角
DOI：
--
发表时间：
2022
期刊：
Conference on Fairness, Accountability and Transparency
影响因子：
--
作者：
Kristen M. Scott;Sonja Mei Wang;Milagros Miceli;Pieter Delobelle;Karolina Sztandar;Bettina Berendt
通讯作者：
Bettina Berendt
改善儿童福利领域的人机合作关系：了解工人的实践、挑战和对算法决策支持的渴望
DOI：
10.1145/3491102.3517439
发表时间：
2022
期刊：
Proceedings of the 2022 CHI Conference on Human Factors in Computing Systems
影响因子：
--
作者：
Kawakami, Anna;Sivaraman, Venkatesh;Cheng, Hao-Fei;Stapleton, Logan;Cheng, Yanghuidi;Qing, Diana;Perer, Adam;Wu, Zhiwei Steven;Zhu, Haiyi;Holstein, Kenneth
通讯作者：
Holstein, Kenneth
2018 年《家庭优先预防服务法》中联邦儿童福利政策的演变：机会、障碍和意外后果
DOI：
--
发表时间：
2020
期刊：
影响因子：
--
作者：
M. Testa;David Kelly
通讯作者：
David Kelly
影响因子：
--
作者：
A. Burton;Angeline Montauban
通讯作者：
Angeline Montauban