CRII: III: Towards Improving the Handling of Heterogeneity and Personalization in Federated Learning

CRII:III:改进联邦学习中异构性和个性化的处理

基本信息

  • 批准号:
    2246067
  • 负责人:
  • 金额:
    $ 17.5万
  • 依托单位:
  • 依托单位国家:
    美国
  • 项目类别:
    Standard Grant
  • 财政年份:
    2023
  • 资助国家:
    美国
  • 起止时间:
    2023-08-01 至 2025-07-31
  • 项目状态:
    未结题

项目摘要

As awareness of the need for privacy preservation continues to grow in society, new legal restrictions, such as the General Data Protection Regulation (GDPR), are emerging. Such laws demand that businesses and organizations not share their clients' raw data for any commercial purposes. Federated Learning (FL) is a distributed machine learning paradigm that works with decentralized data while preserving privacy. FL has gained widespread interest and has been applied in numerous applications, such as healthcare, education, and intelligent manufacturing. However, FL faces some challenges that come from, executing on diverse types of data and devices, such as mobile phones and Internet of Things (IoT) devices. This project aims to address the aforementioned issues in heterogeneous FL by developing mathematical models and efficient algorithms. In addition, the project will integrate trustworthy ML research into new curriculum development and support students from underrepresented groups.Heterogeneous FL faces two significant challenges: (1) each client in FL may generate data according to a distinct distribution; (2) heterogeneous clients, such as mobile phones and IoT devices, are equipped with a wide range of computation and communication capabilities. To address these challenges, this project will dramatically push the boundary of knowledge via the following two integrated research thrusts: (i) The research team aims to tackle data heterogeneity in FL by designing two advanced personalized learning methods. Specifically, the proposed solutions aim to balance the generalization ability from the global model and the personalization ability from the local model, improving both the global model and personalized local models. (ii) The team will study heterogeneous neural network aggregation for FL by providing advanced memory-efficient local training strategies for small devices. In addition, the project will make use of mutual knowledge distillation to improve the generalization ability of the local models. Finally, the team proposes a unified FL framework that integrates data-free knowledge aggregation with advanced memory-efficient solutions to tackle both heterogeneity issues simultaneously.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
随着社会对隐私保护需求的认识不断提高,新的法律的限制正在出现,例如《通用数据保护条例》(GDPR)。这些法律要求企业和组织不得出于任何商业目的共享客户的原始数据。联邦学习(FL)是一种分布式机器学习范式,它在保护隐私的同时处理分散的数据。FL已经引起了广泛的兴趣,并已应用于许多应用,如医疗保健,教育和智能制造。然而,FL面临着一些挑战,这些挑战来自于在不同类型的数据和设备上执行,例如移动的电话和物联网(IoT)设备。本研究旨在通过建立数学模型和有效的算法来解决上述异构外语中的问题。此外,该项目还将把值得信赖的机器学习研究整合到新课程开发中,并支持来自代表性不足群体的学生。异构FL面临两个重大挑战:(1)FL中的每个客户端可能根据不同的分布生成数据;(2)异构客户端,如移动的手机和物联网设备,配备了广泛的计算和通信能力。为了应对这些挑战,本项目将通过以下两个综合研究方向大大推动知识的边界:(i)研究团队旨在通过设计两种先进的个性化学习方法来解决外语中的数据异构性。具体而言,所提出的解决方案旨在平衡全局模型的泛化能力和局部模型的个性化能力,同时改进全局模型和个性化局部模型。(ii)该团队将通过为小型设备提供先进的内存高效本地训练策略,研究FL的异构神经网络聚合。此外,该项目将利用相互知识蒸馏来提高局部模型的泛化能力。最后,该团队提出了一个统一的FL框架,将无数据的知识聚合与先进的内存效率解决方案相结合,以同时解决两个异质性问题。该奖项反映了NSF的法定使命,并通过使用基金会的知识价值和更广泛的影响审查标准进行评估,被认为值得支持。

项目成果

期刊论文数量(0)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

Lichao Sun其他文献

423 Study on mechanical behavior of steel fiber reinforced used fibrous materials
423 钢纤维增强废旧纤维材料力学性能研究
  • DOI:
    10.1299/jsmekansai.2011.86._4-23_
  • 发表时间:
    2011
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Lichao Sun;Y. Fujita;T. Kurashiki;M. Zako
  • 通讯作者:
    M. Zako
1+1>2: Can Large Language Models Serve as Cross-Lingual Knowledge Aggregators?
1 1>2:大型语言模型能否充当跨语言知识聚合器?
  • DOI:
  • 发表时间:
    2024
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Yue Huang;Chenrui Fan;Yuan Li;Siyuan Wu;Tianyi Zhou;Xiangliang Zhang;Lichao Sun
  • 通讯作者:
    Lichao Sun
Investigating and Defending Shortcut Learning in Personalized Diffusion Models
个性化扩散模型中捷径学习的调查和辩护
  • DOI:
  • 发表时间:
    2024
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Yixin Liu;Ruoxi Chen;Lichao Sun
  • 通讯作者:
    Lichao Sun
Tuning the modal coupling in three-dimensional Au@Cusub2/subO@Au core–shell–satellite nanostructures for enhanced plasmonic photocatalysis
在三维 Au@Cu₂O@Au 核-壳-卫星纳米结构中调整模态耦合以增强等离子体光催化
  • DOI:
    10.1039/d5sc00610d
  • 发表时间:
    2025-03-13
  • 期刊:
  • 影响因子:
    7.400
  • 作者:
    Yahui Yang;Binbin Zhang;Xuehao Sun;Yunlong Tao;Guizeng Yang;Chuang Liu;Zixu Wang;Lichao Sun;Qingfeng Zhang
  • 通讯作者:
    Qingfeng Zhang
Anaesthetic literature
麻醉文献
  • DOI:
    10.1111/j.1365-2044.1988.tb06742.x
  • 发表时间:
    1988
  • 期刊:
  • 影响因子:
    10.7
  • 作者:
    Jiqing Qiu;Yu Cui;Lichao Sun;Zhanpeng Zhu
  • 通讯作者:
    Zhanpeng Zhu

Lichao Sun的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

相似国自然基金

全钒液流电池负极V(II)/V(III)电化学氧化还原的催化机理研究
  • 批准号:
    2025JJ50094
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
吡咯烷生物碱所致肝窦阻塞综合征III区肝损伤的新机制——局部氨代谢紊乱
  • 批准号:
    JCZRYB202500652
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
硅基III-V族亚微米线激光器的光场模式调控与耦合机理研究
  • 批准号:
    JCZRQN202501004
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
MXene/nZVI@FH材料微域层界面调控水中砷(III)氧化迁移机制
  • 批准号:
    2025JJ50319
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
HOXC8/OPN/CD44/EGFR轴介导的奥沙利铂耐药性在III期右半结肠癌耐药进展中的研究
  • 批准号:
    2025JJ50694
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
AI结合超声原始射频信号评估Bethesda III/IV类甲状腺肿瘤包膜和血管侵犯研究
  • 批准号:
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
硫化砷靶向VPS4B-ESCRT-III调控自噬溶酶体通路逆转三阴性乳腺癌顺铂耐药性的研究
  • 批准号:
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
ASPGR与MRC2双受体介导铱(III)配合物 脂质体抗肝肿瘤研究
  • 批准号:
  • 批准年份:
    2025
  • 资助金额:
    10.0 万元
  • 项目类别:
    省市级项目
Ap-Exo III 联合模式识别构建降尿酸药 物筛选新方法的研究
  • 批准号:
  • 批准年份:
    2025
  • 资助金额:
    10.0 万元
  • 项目类别:
    省市级项目
经关节突截骨矫治III期Kummell病临床有效性分析
  • 批准号:
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目

相似海外基金

CRII: III: Towards Reasoning Augmented Searching for Domain-Specific Knowledge Screening
CRII:III:针对特定领域知识筛选的推理增强搜索
  • 批准号:
    2245907
  • 财政年份:
    2023
  • 资助金额:
    $ 17.5万
  • 项目类别:
    Standard Grant
CRII: III: Towards Effective and Efficient City-scale Traffic Reconstruction
CRII:III:迈向有效和高效的城市规模交通重建
  • 批准号:
    2412340
  • 财政年份:
    2023
  • 资助金额:
    $ 17.5万
  • 项目类别:
    Standard Grant
Collaborative Research: III: Medium: Towards Effective Detection and Mitigation for Shortcut Learning: A Data Modeling Framework
协作研究:III:媒介:针对捷径学习的有效检测和缓解:数据建模框架
  • 批准号:
    2310262
  • 财政年份:
    2023
  • 资助金额:
    $ 17.5万
  • 项目类别:
    Standard Grant
Collaborative Research: III: Medium: Towards Effective Detection and Mitigation for Shortcut Learning: A Data Modeling Framework
协作研究:III:媒介:针对捷径学习的有效检测和缓解:数据建模框架
  • 批准号:
    2310261
  • 财政年份:
    2023
  • 资助金额:
    $ 17.5万
  • 项目类别:
    Standard Grant
Collaborative Research: IIS-III Towards Fair Outlier Detection
协作研究:IIS-III 迈向公平的异常值检测
  • 批准号:
    2310482
  • 财政年份:
    2023
  • 资助金额:
    $ 17.5万
  • 项目类别:
    Standard Grant
III: Medium: Towards Inclusive Recommendation Systems with Stakeholder Alignment
III:中:迈向利益相关者联盟的包容性推荐系统
  • 批准号:
    2312794
  • 财政年份:
    2023
  • 资助金额:
    $ 17.5万
  • 项目类别:
    Continuing Grant
Collaborative Research: III: Medium: Towards Effective Detection and Mitigation for Shortcut Learning: A Data Modeling Framework
协作研究:III:媒介:针对捷径学习的有效检测和缓解:数据建模框架
  • 批准号:
    2310260
  • 财政年份:
    2023
  • 资助金额:
    $ 17.5万
  • 项目类别:
    Standard Grant
Collaborative Research: IIS-III: Small Towards Fair Outlier Detection
协作研究:IIS-III:小到公平的异常值检测
  • 批准号:
    2310481
  • 财政年份:
    2023
  • 资助金额:
    $ 17.5万
  • 项目类别:
    Standard Grant
III: Small: A New Machine Learning Paradigm Towards Effective yet Efficient Foundation Graph Learning Models
III:小型:一种新的机器学习范式,实现有效且高效的基础图学习模型
  • 批准号:
    2321504
  • 财政年份:
    2023
  • 资助金额:
    $ 17.5万
  • 项目类别:
    Standard Grant
III: Small: Towards Highly Accurate Map Services
III:小:迈向高精度地图服务
  • 批准号:
    2203553
  • 财政年份:
    2022
  • 资助金额:
    $ 17.5万
  • 项目类别:
    Standard Grant
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了