课题基金 / 基金详情

元数据驱动的损失项与正则项自动化学习方法

批准号:
62076196
项目类别:
面上项目
资助金额:
58.0 万元
负责人:
赵谦
依托单位:
学科分类:
机器学习
结题年份:
2024
批准年份:
2020
项目状态:
已结题
项目参与者:
赵谦

项目摘要

结项摘要

赵谦的其他基金

相似基金

相关文献

中文摘要
本项目聚焦元数据驱动的机器学习损失项与正则项自动化学习理论与方法研究。传统机器学习方法通常需要人为确定损失项与正则项的形式,无法充分反映数据的本质结构和采样偏差,限制了学习算法的性能。本项目拟基于元学习原理,构造元数据驱动的损失项与正则项学习模型与方法,解决其中的关键理论问题,并应用于若干典型实际问题。包括:(1)构建元数据驱动的损失项与正则项学习的一般模型与结合具体学习任务的求解算法;(2)从收敛性、稳健性、泛化性等方面出发,建立所提损失项与正则项学习方法的一般理论;(3)将所提策略推广至贝叶斯机器学习模型,构造元数据驱动的似然项与先验项学习方法;(4)针对智能通信、空对地目标检测、图像复原等典型实际问题,应用所提策略构造新型有效算法。所获结果将从理论、模型、算法与应用等多个层面建立一套完整的元数据驱动的损失项与正则项学习方法论,为机器学习模型在实际应用中的构建提供全新的自动化解决方案。
英文摘要
This project focuses on the theory and methods of automatically learning the loss and regularization terms, driven by meta-data, in machine learning models. The existing machine learning methods generally require manually specifying the loss and regularization terms, which cannot sufficiently reflect the intrinsic structure and sampling bias underlying data, and thus limits the performance of learning algorithms. To this issue, based on the principle of meta-learning, this project plans to construct automatic learning methods for the loss and regularization terms driven by meta-data, develop corresponding theories and apply them to typical real problems. Specifically, (1) we plan to develop the general models for automatically learning the loss and regularization terms driven by meta-data, and corresponding algorithms for specific machine learning tasks; (2) we plan to develop the general theories for the proposed methods, including convergence, robustness and generalization; (3) we plan to generalize the proposed strategy to Bayesian machine learning models, and correspondingly develop learning methods for the likelihood and prior terms; (4) by the proposed methodology, we plan to develop effective algorithms for some typical applications, such as intelligent wireless communication, ground target detection and image restoration. The desired achievements will build a full framework, from the aspects of theory, model, algorithm and application, for meta-data driven learning of the loss and regularization terms, and thus provide a new solution for automatically building machine learning models in real applications.
本项目聚焦元数据驱动的机器学习损失项与正则项自动化学习方法、理论与应用研究。在方法和理论层面,建立了较为完整的元数据驱动的机器学习损失项与正则项自动化学习框架;在应用层面,将所提方法论成功应用于以图像与视频处理为代表的实际问题。主要研究内容包括如下四个方面:..(1) 元数据驱动的损失项与正则项自动化学习算法与理论。基于双层优化思想,建立了元数据驱动的损失项与正则项学习的一般模型与理论,给出了基于在线更新策略的求解算法,并将其用于具体的机器学习问题。对于分类问题,给出了针对标签噪声的损失项设置方法及泛化性理论;对于低秩矩阵分解问题,给出了复杂噪声下的损失项自动加权方法及泛化性理论论;对于矩阵与张量填充问题,给出了正则项自适应学习算法。..(2) 贝叶斯模型中的似然项与先验项自动化学习方法。在贝叶斯学习框架下,建立了元数据驱动的似然项与先验项自动化学习的一般框架,并应用于具体问题。对于分类问题,给出了一种概率化的元加权网络,实现对于似然项与先验项的自动加权,提升了学习算法在标签噪声下的性能;结合图像复原问题,给出了一种由训练数据自动学习似然项与先验项参数,并可在测试阶段自动推断后验的变分图像复原网络,可用于各类典型图像复原问题。..(3) 损失项与正则项自动化学习在典型实际问题中的应用。将所提出的损失项与正则项学习方法论应用到了以图像与视频处理为代表的若干典型问题中,取得了优于现有方法的性能表现。这些应用包括:在线视频去雨雪与压缩感知、复杂环境下的通信信道估计、低光图像增强、高光谱图像去噪等。..(4) 其他机器学习自动化方法。基于元学习框架,对于损失项与正则项以外的机器学习构成要素的自动化方法进行了探索,并取得了一些进展。这些探索包括:算法学习率的自动设置、学习算法下降方向的自动调整、任务驱动的训练数据自动生成、退化算子的自动初始化等。
非独立同分布噪声下基于损失函数自适应选择的稳健机器学习方法
  • 批准号:
    61603292
  • 项目类别:
    青年科学基金项目
  • 资助金额:
    22.0万元
  • 批准年份:
    2016
  • 负责人:
    赵谦
  • 依托单位:
国内基金
海外基金