III: Small: Collaborative Research: Structured Methods for Multi-Task Learning

III:小:协作研究:多任务学习的结构化方法

基本信息

  • 批准号:
    1615035
  • 负责人:
  • 金额:
    $ 24.69万
  • 依托单位:
  • 依托单位国家:
    美国
  • 项目类别:
    Standard Grant
  • 财政年份:
    2016
  • 资助国家:
    美国
  • 起止时间:
    2016-08-01 至 2019-01-31
  • 项目状态:
    已结题

项目摘要

The ability of human to learn from and transfer knowledge across related learning tasks enables us to grasp complex concepts from only a few examples. For instance, a three-year old child is able to discriminate chairs from tables without having been exposed to hundreds of different examples. In contrast, computer learning programs typically require training on a large number of examples in order to achieve similar levels of recognition. This prompts the study of multi-task learning in which multiple related tasks are learned simultaneously, thereby facilitating inter-task knowledge transfer. However, most multi-task learning studies are restricted to problems with well-defined tasks and structures. This project aims at developing algorithms and tools (including open source software) to attack problems that are not traditionally treated, but can potentially be reformulated and solved more effectively by multi-task learning. This allows a broad class of challenging machine learning problems to benefit from multi-task learning techniques. This project also develops a new curriculum that incorporates the proposed research into classroom. In addition, this project will allow the PIs to continue the ongoing efforts of actively recruiting and advising students from under-represented groups. To achieve these goals, this project focuses on an innovative, integrated research and education plan that includes the following components: (1) providing principled guidelines for reformulating problems into the multi-task learning formalism; (2) developing robust and clustered multi-task learning models to identify and prevent false interactions among unrelated tasks; (3) developing sparsity-inducing multi-task learning models to capture richly structured task interactions; (4) developing high-order multi-task learning models to capture task relatedness from interactions between features; and (5) investigating computational algorithms and theoretical properties of multi-task learning. The outcome of this project includes the capabilities of reformulating diverse machine learning problems into the multi-task learning framework and providing radically new ways to attack challenging problems that cannot be solved effectively by traditional methods. The systematic study of multi-task learning in this project is expected to generate novel reformulations, structured mathematical models, efficient optimization algorithms, and principled theoretical analyses, which will lead to significant practical and theoretical advances in multi-task learning.
人类在相关学习任务中学习和转移知识的能力使我们能够仅从几个例子中掌握复杂的概念。例如,一个三岁的孩子能够区分椅子和桌子,而不需要接触数百个不同的例子。相比之下,计算机学习程序通常需要在大量的例子上进行训练,才能达到类似的识别水平。这促使人们研究多任务学习,即同时学习多个相关的任务,从而促进任务间的知识迁移。然而,大多数多任务学习研究仅限于具有明确任务和结构的问题。该项目旨在开发算法和工具(包括开源软件)来解决传统上没有处理的问题,但可以通过多任务学习来重新制定和更有效地解决这些问题。这使得广泛的具有挑战性的机器学习问题受益于多任务学习技术。该项目还开发了一个新的课程,将拟议的研究纳入课堂。此外,该项目将使pi能够继续积极招募来自代表性不足群体的学生并为其提供咨询。为了实现这些目标,本项目侧重于一个创新的、综合的研究和教育计划,该计划包括以下组成部分:(1)为将问题重新表述为多任务学习形式主义提供原则性指导;(2)建立稳健的聚类多任务学习模型,以识别和防止不相关任务之间的错误交互;(3)开发稀疏性诱导多任务学习模型,以捕获结构丰富的任务交互;(4)建立高阶多任务学习模型,从特征之间的相互作用中捕捉任务相关性;(5)研究多任务学习的计算算法和理论性质。该项目的成果包括将各种机器学习问题重新表述为多任务学习框架的能力,并提供全新的方法来解决传统方法无法有效解决的具有挑战性的问题。本项目对多任务学习的系统研究有望产生新颖的重新表述、结构化的数学模型、高效的优化算法和原则性的理论分析,这将导致多任务学习在实践和理论方面取得重大进展。

项目成果

期刊论文数量(0)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

Shuiwang Ji其他文献

A Mathematical View of Attention Models in Deep Learning
深度学习中注意力模型的数学观点
  • DOI:
  • 发表时间:
    2020
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Shuiwang Ji;Yaochen Xie
  • 通讯作者:
    Yaochen Xie
Discriminant Analysis for Dimensionality Reduction: An Overview of Recent Developments
降维判别分析:近期发展概述
  • DOI:
  • 发表时间:
    2010
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Jieping Ye;Shuiwang Ji
  • 通讯作者:
    Shuiwang Ji
An Interpretable Neural Model with Interactive Stepwise Influence
具有交互式逐步影响的可解释神经模型
  • DOI:
    10.1007/978-3-030-16142-2_41
  • 发表时间:
    2019
  • 期刊:
  • 影响因子:
    2.3
  • 作者:
    Yin Zhang;Ninghao Liu;Shuiwang Ji;James Caverlee;Xia Hu
  • 通讯作者:
    Xia Hu
Semi-Supervised Learning for High-Fidelity Fluid Flow Reconstruction
高保真流体流动重建的半监督学习
  • DOI:
  • 发表时间:
    2023
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Cong Fu;Jacob Helwig;Shuiwang Ji
  • 通讯作者:
    Shuiwang Ji
Eliminating Position Bias of Language Models: A Mechanistic Approach
消除语言模型的位置偏差:一种机械方法
  • DOI:
  • 发表时间:
    2024
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Ziqi Wang;Hanlin Zhang;Xiner Li;Kuan;Chi Han;Shuiwang Ji;S. Kakade;Hao Peng;Heng Ji
  • 通讯作者:
    Heng Ji

Shuiwang Ji的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('Shuiwang Ji', 18)}}的其他基金

III: Small: 3D Graph Neural Networks: Completeness, Efficiency, and Applications
III:小:3D 图神经网络:完整性、效率和应用
  • 批准号:
    2243850
  • 财政年份:
    2023
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant
Collaborative Research: ABI Innovation: Towards Computational Exploration of Large-Scale Neuro-Morphological Datasets
合作研究:ABI 创新:大规模神经形态数据集的计算探索
  • 批准号:
    2028361
  • 财政年份:
    2020
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant
III: Small: Collaborative Research: Demystifying Deep Learning on Graphs: From Basic Operations to Applications
III:小:协作研究:揭秘图深度学习:从基本操作到应用
  • 批准号:
    2006861
  • 财政年份:
    2020
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant
III: Medium: Collaborative Research: Towards Scalable and Interpretable Graph Neural Networks
III:媒介:协作研究:迈向可扩展和可解释的图神经网络
  • 批准号:
    1955189
  • 财政年份:
    2020
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant
III: Small: Collaborative Research: Structured Methods for Multi-Task Learning
III:小:协作研究:多任务学习的结构化方法
  • 批准号:
    1908166
  • 财政年份:
    2018
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant
III: Small: Deep Learning for Gene Expression Pattern Image Analysis
III:小:深度学习用于基因表达模式图像分析
  • 批准号:
    1908220
  • 财政年份:
    2018
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant
CAREER: Towards the Next Generation of Data-Driven
职业:迈向下一代数据驱动
  • 批准号:
    1922969
  • 财政年份:
    2018
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Continuing Grant
BIGDATA: Collaborative Research: F: Efficient and Exact Methods for Big Data Reduction
BIGDATA:协作研究:F:大数据缩减的高效且精确的方法
  • 批准号:
    1908198
  • 财政年份:
    2018
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant
III: Small: Deep Learning for Gene Expression Pattern Image Analysis
III:小:深度学习用于基因表达模式图像分析
  • 批准号:
    1811675
  • 财政年份:
    2018
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant
Collaborative Research: ABI Innovation: Towards Computational Exploration of Large-Scale Neuro-Morphological Datasets
合作研究:ABI 创新:大规模神经形态数据集的计算探索
  • 批准号:
    1661289
  • 财政年份:
    2017
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant

相似国自然基金

昼夜节律性small RNA在血斑形成时间推断中的法医学应用研究
  • 批准号:
  • 批准年份:
    2024
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
tRNA-derived small RNA上调YBX1/CCL5通路参与硼替佐米诱导慢性疼痛的机制研究
  • 批准号:
    n/a
  • 批准年份:
    2022
  • 资助金额:
    10.0 万元
  • 项目类别:
    省市级项目
Small RNA调控I-F型CRISPR-Cas适应性免疫性的应答及分子机制
  • 批准号:
    32000033
  • 批准年份:
    2020
  • 资助金额:
    24.0 万元
  • 项目类别:
    青年科学基金项目
Small RNAs调控解淀粉芽胞杆菌FZB42生防功能的机制研究
  • 批准号:
    31972324
  • 批准年份:
    2019
  • 资助金额:
    58.0 万元
  • 项目类别:
    面上项目
变异链球菌small RNAs连接LuxS密度感应与生物膜形成的机制研究
  • 批准号:
    81900988
  • 批准年份:
    2019
  • 资助金额:
    21.0 万元
  • 项目类别:
    青年科学基金项目
基于small RNA 测序技术解析鸽分泌鸽乳的分子机制
  • 批准号:
    31802058
  • 批准年份:
    2018
  • 资助金额:
    26.0 万元
  • 项目类别:
    青年科学基金项目
肠道细菌关键small RNAs在克罗恩病发生发展中的功能和作用机制
  • 批准号:
    31870821
  • 批准年份:
    2018
  • 资助金额:
    56.0 万元
  • 项目类别:
    面上项目
Small RNA介导的DNA甲基化调控的水稻草矮病毒致病机制
  • 批准号:
    31772128
  • 批准年份:
    2017
  • 资助金额:
    60.0 万元
  • 项目类别:
    面上项目
基于small RNA-seq的针灸治疗桥本甲状腺炎的免疫调控机制研究
  • 批准号:
    81704176
  • 批准年份:
    2017
  • 资助金额:
    20.0 万元
  • 项目类别:
    青年科学基金项目
水稻OsSGS3与OsHEN1调控small RNAs合成及其对抗病性的调节
  • 批准号:
    91640114
  • 批准年份:
    2016
  • 资助金额:
    85.0 万元
  • 项目类别:
    重大研究计划

相似海外基金

Collaborative Research: III: Small: High-Performance Scheduling for Modern Database Systems
协作研究:III:小型:现代数据库系统的高性能调度
  • 批准号:
    2322973
  • 财政年份:
    2024
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant
Collaborative Research: III: Small: High-Performance Scheduling for Modern Database Systems
协作研究:III:小型:现代数据库系统的高性能调度
  • 批准号:
    2322974
  • 财政年份:
    2024
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant
Collaborative Research: III: Small: A DREAM Proactive Conversational System
合作研究:III:小型:一个梦想的主动对话系统
  • 批准号:
    2336769
  • 财政年份:
    2024
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant
Collaborative Research: III: Small: A DREAM Proactive Conversational System
合作研究:III:小型:一个梦想的主动对话系统
  • 批准号:
    2336768
  • 财政年份:
    2024
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant
III: Small: Multiple Device Collaborative Learning in Real Heterogeneous and Dynamic Environments
III:小:真实异构动态环境中的多设备协作学习
  • 批准号:
    2311990
  • 财政年份:
    2023
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant
Collaborative Research: III: Small: Reconstruction of Diffusion History in Cyber and Human Networks with Applications in Epidemiology and Cybersecurity
合作研究:III:小:重建网络和人类网络中的扩散历史及其在流行病学和网络安全中的应用
  • 批准号:
    2324770
  • 财政年份:
    2023
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant
Collaborative Research: III: Small: Physics Guided Graph Networks for Modeling Water Dynamics in Freshwater Ecosystems
合作研究:III:小型:用于模拟淡水生态系统中水动力学的物理引导图网络
  • 批准号:
    2316306
  • 财政年份:
    2023
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant
Collaborative Research: III: Small: Efficient and Robust Multi-model Data Analytics for Edge Computing
协作研究:III:小型:边缘计算的高效、稳健的多模型数据分析
  • 批准号:
    2311596
  • 财政年份:
    2023
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant
Collaborative Research: III: Small: Efficient and Robust Multi-model Data Analytics for Edge Computing
协作研究:III:小型:边缘计算的高效、稳健的多模型数据分析
  • 批准号:
    2311598
  • 财政年份:
    2023
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant
Collaborative Research: III: Small: Reconstruction of Diffusion History in Cyber and Human Networks with Applications in Epidemiology and Cybersecurity
合作研究:III:小:重建网络和人类网络中的扩散历史及其在流行病学和网络安全中的应用
  • 批准号:
    2324769
  • 财政年份:
    2023
  • 资助金额:
    $ 24.69万
  • 项目类别:
    Standard Grant
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了