EAGER: DCL: SaTC: Enabling Interdisciplinary Collab: Impact-aware Machine Learning for Fair and Private Decision Making: Algorithms and Applications in Juvenile Justice Systems

EAGER:DCL:SaTC:实现跨学科协作:影响感知机器学习促进公平和私人决策:少年司法系统中的算法和应用

基本信息

  • 批准号:
    2209951
  • 负责人:
  • 金额:
    $ 30万
  • 依托单位:
  • 依托单位国家:
    美国
  • 项目类别:
    Standard Grant
  • 财政年份:
    2022
  • 资助国家:
    美国
  • 起止时间:
    2022-07-01 至 2025-06-30
  • 项目状态:
    未结题

项目摘要

Nearly 725,000 cases involving youth are processed by juvenile courts across the United States each year. Risk assessment instruments (RAIs) are routinely used as critical supportive tools during the decision-making process. RAIs have begun to adapt machine learning models to identify the risk of recidivism. Few RAIs consider the possibility for change, which is especially important when assessing youth who are amenable to treatment. Furthermore, RAIs may suffer from algorithmic bias which can arise due to the inherent bias in the data used to train them, as well as run into the risk of leaking sensitive personal information. Despite recent progress in building private machine learning models in other domains, the literature on maintaining user privacy for RAI models for criminal justice domains are critically lacking. This project’s novelties are the design of a framework for risk assessment that can incorporate the impact of interventions while simultaneously achieving individual fairness and data privacy. The project’s broader significance and importance includes the building of trustworthy RAIs which can reduce disproportionate minority contact in juvenile justice systems. This project pursues the above goals via three inter-related research thrusts. Thrust 1 leverages and adapts the potential outcomes framework from causal inference to build intervention-aware risk assessment models. Thrust 2 focuses on devising methodologies for simultaneously enforcing individual fairness and differential privacy constraints while training intervention-aware RAI models using causal inference techniques. Several new theoretical challenges have been tackled, including the operationalization of individual fairness constraints within the context of criminal justice and compatibility with differential privacy. In addition to theoretical efforts, Thrust 3 validates the proposed framework using real world datasets and open source risk assessment tools in order to analyze the tradeoffs between privacy, fairness and accuracy, and assess the overall impact of the proposed framework.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
美国少年法庭每年处理近72.5万起涉及青少年的案件。在决策过程中,风险评估工具通常被用作关键的支持工具。RAIs已经开始采用机器学习模型来识别累犯风险。很少有区域机构考虑改变的可能性,这在评估适合治疗的青年时尤为重要。此外,RAIs可能会受到算法偏差的影响,这可能是由于用于训练它们的数据中的固有偏差而产生的,并且会遇到泄露敏感个人信息的风险。尽管最近在其他领域建立私有机器学习模型方面取得了进展,但关于维护刑事司法领域RAI模型用户隐私的文献非常缺乏。 该项目的创新之处在于设计了一个风险评估框架,可以将干预措施的影响纳入其中,同时实现个人公平和数据隐私。该项目更广泛的意义和重要性包括建立可信赖的区域监管机构,从而减少少年司法系统中与少数群体过多的接触。 本项目通过三个相互关联的研究方向来实现上述目标。目标1利用和调整因果推理的潜在结果框架,以建立干预意识风险评估模型。推力2的重点是设计方法,同时执行个人的公平性和不同的隐私限制,同时训练干预意识RAI模型使用因果推理技术。一些新的理论挑战得到了解决,包括在刑事司法背景下个人公平约束的可操作性以及与不同隐私的兼容性。除了理论上的努力,Thrust 3使用真实的世界数据集和开源风险评估工具验证了拟议的框架,以分析隐私,公平性和准确性之间的权衡,并评估拟议框架的整体影响。该奖项反映了NSF的法定使命,并通过使用基金会的知识价值和更广泛的影响审查标准进行评估,被认为值得支持。

项目成果

期刊论文数量(4)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
Differentially Private Federated Learning with Drift Control
具有漂移控制的差分私有联邦学习
Generalization Bounds for Neural Belief Propagation Decoders
Topological Interference Management With Confidential Messages
使用机密消息进行拓扑干扰管理
Sparse Matrix Codes: Rate-Reliability Trade-offs for URLLC
稀疏矩阵码:URLLC 的速率可靠性权衡
{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

Ravi Tandon其他文献

Online Context-Aware Streaming Data Release With Sequence Information Privacy
具有序列信息隐私的在线上下文感知流数据发布
Exploring the Human Virome: Composition, Dynamics, and Implications for Health and Disease
  • DOI:
    10.1007/s00284-023-03537-0
  • 发表时间:
    2023-11-25
  • 期刊:
  • 影响因子:
    2.600
  • 作者:
    Tannu Bhagchandani;Nikita;Anjali Verma;Ravi Tandon
  • 通讯作者:
    Ravi Tandon
Intrinsic Fairness-Accuracy Tradeoffs under Equalized Odds
均等赔率下的内在公平性与准确性权衡
  • DOI:
  • 发表时间:
    2024
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Meiyu Zhong;Ravi Tandon
  • 通讯作者:
    Ravi Tandon
SPLITZ: Certifiable Robustness via Split Lipschitz Randomized Smoothing
SPLITZ:通过 Split Lipschitz 随机平滑可证明鲁棒性
  • DOI:
  • 发表时间:
    2024
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Meiyu Zhong;Ravi Tandon
  • 通讯作者:
    Ravi Tandon
Distinct composition of plasma virome in HIV-infected subjects on antiretroviral therapy compared to controls
与对照组相比,接受抗逆转录病毒治疗的 HIV 感染者血浆病毒组的不同组成
  • DOI:
  • 发表时间:
    2023
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Tannu Bhagchandani;Mohd. Maksuf Ul Haque;M. Malik;A. K. Ray;Urvinder Kaur S;Ankita Rai;Anjali Verma;K. Sawlani;Rupesh Chaturvedi;D. Himanshu;Ravi Tandon
  • 通讯作者:
    Ravi Tandon

Ravi Tandon的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('Ravi Tandon', 18)}}的其他基金

Collaborative Research: SaTC: CORE: Medium: Graph Mining and Network Science with Differential Privacy: Efficient Algorithms and Fundamental Limits
协作研究:SaTC:核心:媒介:具有差异隐私的图挖掘和网络科学:高效算法和基本限制
  • 批准号:
    2317192
  • 财政年份:
    2023
  • 资助金额:
    $ 30万
  • 项目类别:
    Continuing Grant
CAREER: Communication- Efficient Distributed Computation: Information- Theoretic Foundations and Algorithms
职业:通信高效分布式计算:信息理论基础和算法
  • 批准号:
    1651492
  • 财政年份:
    2017
  • 资助金额:
    $ 30万
  • 项目类别:
    Continuing Grant
SaTC: CORE: Small: Robust Physical Layer Security with Channel Knowledge Uncertainty
SaTC:核心:小型:具有通道知识不确定性的强大物理层安全性
  • 批准号:
    1715947
  • 财政年份:
    2017
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
CIF: Small: Collaborative Research: Synergistic Exploitation of Network Dynamics and Knowledge Heterogeneity in Wireless Networks
CIF:小型:协作研究:无线网络中网络动态和知识异构性的协同开发
  • 批准号:
    1559758
  • 财政年份:
    2015
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
CIF: Small: Collaborative Research: Synergistic Exploitation of Network Dynamics and Knowledge Heterogeneity in Wireless Networks
CIF:小型:协作研究:无线网络中网络动态和知识异构性的协同开发
  • 批准号:
    1422090
  • 财政年份:
    2014
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant

相似国自然基金

OH+HCl/DCl↔H2O/HOD+Cl态-态反应的全维微分截面研究
  • 批准号:
  • 批准年份:
    2022
  • 资助金额:
    54 万元
  • 项目类别:
    面上项目
番茄抗病毒基因DCL2b受病毒诱导调控的分子机理
  • 批准号:
  • 批准年份:
    2022
  • 资助金额:
    54 万元
  • 项目类别:
    面上项目
套索RNA通过拮抗DCL1复合物抑制植物miRNA产生的分子机制
  • 批准号:
    31671261
  • 批准年份:
    2016
  • 资助金额:
    63.0 万元
  • 项目类别:
    面上项目
拟南芥DCL4介导、不依赖DRB4的新抗病毒RNA沉默分子机制研究
  • 批准号:
    31570145
  • 批准年份:
    2015
  • 资助金额:
    66.0 万元
  • 项目类别:
    面上项目
DCL在DNAmβ诱导的基因沉默和抗TYLCCNV病毒中的功能分析
  • 批准号:
    30771406
  • 批准年份:
    2007
  • 资助金额:
    32.0 万元
  • 项目类别:
    面上项目

相似海外基金

EAGER: DCL: SaTC: Enabling Interdisciplinary Collaboration: Deplatforming and Online Hate Speech Across the Social Media Ecology
EAGER:DCL:SaTC:实现跨学科合作:社交媒体生态中的去平台化和在线仇恨言论
  • 批准号:
    2210023
  • 财政年份:
    2022
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
EAGER: DCL: SaTC: Enabling Interdisciplinary Collaboration: Using NLP to Identify Suspicious Transactions in Omnichannel Online C2C Marketplaces
EAGER:DCL:SaTC:实现跨学科协作:使用 NLP 识别全渠道在线 C2C 市场中的可疑交易
  • 批准号:
    2210091
  • 财政年份:
    2022
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
EAGER: DCL: SaTC: Enabling Interdisciplinary Collaboration: Efficient Human-in-the-Loop Redaction of Language Development Corpora
EAGER:DCL:SaTC:实现跨学科协作:语言开发语料库的高效人机交互编辑
  • 批准号:
    2210193
  • 财政年份:
    2022
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
EAGER: DCL: SaTC: Enabling Interdisciplinary Collaboration: Space Cybersecurity, Policy, and Risks
EAGER:DCL:SaTC:实现跨学科合作:空间网络安全、政策和风险
  • 批准号:
    2208458
  • 财政年份:
    2022
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
EAGER: DCL: SaTC: Enabling Interdisciplinary Collaboration: Adapting Economic Games to Personalize Privacy and Security Nudges
EAGER:DCL:SaTC:实现跨学科合作:调整经济游戏以个性化隐私和安全推动
  • 批准号:
    2209507
  • 财政年份:
    2022
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
EAGER: DCL: SaTC: Enabling Interdisciplinary Collaboration: Improving Human Discernment of Audio Deepfakes via Multi-level Information Augmentation
EAGER:DCL:SaTC:实现跨学科合作:通过多级信息增强提高人类对音频深赝品的识别能力
  • 批准号:
    2210011
  • 财政年份:
    2022
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
EAGER: DCL: SaTC: Enabling Interdisciplinary Collaboration: Inoculation vs. education: the role of real time alerts and end-user overconfidence
EAGER:DCL:SaTC:实现跨学科协作:接种与教育:实时警报和最终用户过度自信的作用
  • 批准号:
    2210198
  • 财政年份:
    2022
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
EAGER: DCL: SaTC: Enabling Interdisciplinary Collaboration: Evolutionary Insights into Digital Ecologies of Fear
EAGER:DCL:SaTC:实现跨学科合作:对数字恐惧生态的进化洞察
  • 批准号:
    2210082
  • 财政年份:
    2022
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
EAGER: DCL: SaTC: EIC: Inclusive-ScamBuster: Inclusive Scam Detection Methods for Social Media to Design Assistive Tools for Protecting Individuals with Developmental Disabilities
EAGER:DCL:SaTC:EIC:Inclusive-ScamBuster:社交媒体的包容性诈骗检测方法,用于设计保护发育障碍人士的辅助工具
  • 批准号:
    2210107
  • 财政年份:
    2022
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
EAGER: DCL: SaTC: Enabling Interdisciplinary Collaboration: Evaluating Bias In The Creation and Perception of GAN-Generated Faces
EAGER:DCL:SaTC:实现跨学科协作:评估 GAN 生成的面孔的创建和感知中的偏差
  • 批准号:
    2210142
  • 财政年份:
    2022
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了