機械学習の汎化性能と信頼性の向上に関する研究

提高机器学习泛化性能和可靠性的研究

• 批准号: 22K17946
• 负责人: 石田 隆
• 金额: $ 2.91万
• 依托单位: The University of Tokyo
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Early-Career Scientists
• 财政年份: 2022
• 资助国家: 日本
• 起止时间: 2022-04-01 至 2027-03-31
• 项目状态: 未结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-22K17946/
• 关键词: 機械学習; MU学習; 教師あり学習

本年度の研究では、少数データ環境下での機械学習の汎化性能と信頼性の向上を目指しました。具体的な研究活動として、機械学習の国際会議に参加するなど、関連する最新研究のサーベイを行いました。これらの活動を通して、知識蒸留や弱教師・強教師情報など、従来とは異なるデータからの学習方法や、性能向上のためのアイデアを得ることができ、その理論や実装についての研究を進めています。その一例として、Mediated uncoupled（MU）学習に関する研究に取り組みました。MU学習は、入力変数Xから出力変数Yを予測する通常の教師あり学習と同じ目標を持ちつつ、訓練データセットが（X,Y）の組み合わせサンプルを持たず、代わりに中間変数Uを介して独立に観察された（X, U）および（U, Y）のサンプルのみを有するという特性を持つような方法です。MU学習のフレームワークを提案し、Bregman divergenceを用いることで、様々なタスクに有用な広範な損失関数を統一的に扱うことを可能にしました。また、訓練モデルの予測の期待テスト損失を含む範囲を推定する方法も提案しています。理論的な分析に加え、人工データを用いた回帰実験およびベンチマークデータセットを用いた低品質画像分類実験でその有用性を確認しました。MU学習に関する研究論文は、Artificial Intelligence and Statistics 2023（AISTATS 2023）に採択されました。

This year's research is aimed at improving the generalization performance and reliability of mechanical learning in a small number of environments. Specific research activities, participation in international conferences on mechanical learning, and the latest research activities This activity is open, knowledge retention is weak, teacher information is strong, learning methods are different, performance is upward, theory is installed, research is advanced. An example of this is Mediated Uncoupled (MU) Learning. MU learning, input X, output Y, prediction, general teacher, learning, same purpose, training, training, combination, support, generation, intermediate U, independent observation,(X, U),(U, Y), support, characteristics, maintenance, method. MU learning is based on Bregman diversity, which can be used in a variety of ways. A method for estimating the expected loss of a training sample is proposed. Theoretical analysis, manual analysis, application, evaluation, evaluation MU Learning Related Research Papers, Artificial Intelligence and Statistics 2023 (AISTATS 2023)

项目成果

Mediated Uncoupled Learning and Validation with Bregman Divergences: Loss Family with Maximal Generality

• 发表时间: 2023
• 作者: Ikko Yamane;Y. Chevaleyre;Takashi Ishida;F. Yger