機械学習の汎化性能と信頼性の向上に関する研究

本年度の研究では、少数データ環境下での機械学習の汎化性能と信頼性の向上を目指しました。具体的な研究活動として、機械学習の国際会議に参加するなど、関連する最新研究のサーベイを行いました。これらの活動を通して、知識蒸留や弱教師・強教師情報など、従来とは異なるデータからの学習方法や、性能向上のためのアイデアを得ることができ、その理論や実装についての研究を進めています。その一例として、Mediated uncoupled（MU）学習に関する研究に取り組みました。MU学習は、入力変数Xから出力変数Yを予測する通常の教師あり学習と同じ目標を持ちつつ、訓練データセットが（X,Y）の組み合わせサンプルを持たず、代わりに中間変数Uを介して独立に観察された（X, U）および（U, Y）のサンプルのみを有するという特性を持つような方法です。MU学習のフレームワークを提案し、Bregman divergenceを用いることで、様々なタスクに有用な広範な損失関数を統一的に扱うことを可能にしました。また、訓練モデルの予測の期待テスト損失を含む範囲を推定する方法も提案しています。理論的な分析に加え、人工データを用いた回帰実験およびベンチマークデータセットを用いた低品質画像分類実験でその有用性を確認しました。MU学習に関する研究論文は、Artificial Intelligence and Statistics 2023（AISTATS 2023）に採択されました。

本年度の研究では、少数データ環境下での機械学習の汎化性能と信頼性の向上を目指しました。具体的な研究活動として、機械学習の国際会議に参加するなど、関連する最新研究のサーベイを行いました。これらの活動を通して、知識蒸留や弱教師・強教師情報など、従来とは異なるデータからの学習方法や、性能向上のためのアイデアを得ることができ、その理論や実装についての研究を進めています。その一例として、Mediated uncoupled（MU）学習に関する研究に取り組みました。MU学習は、入力変数Xから出力変数Yを予測する通常の教師あり学習と同じ目標を持ちつつ、訓練データセットが（X,Y）の組み合わせサンプルを持たず、代わりに中間変数Uを介して独立に観察された（X, U）および（U, Y）のサンプルのみを有するという特性を持つような方法です。MU学習のフレームワークを提案し、Bregman divergenceを用いることで、様々なタスクに有用な広範な損失関数を統一的に扱うことを可能にしました。また、訓練モデルの予測の期待テスト損失を含む範囲を推定する方法も提案しています。理論的な分析に加え、人工データを用いた回帰実験およびベンチマークデータセットを用いた低品質画像分類実験でその有用性を確認しました。MU学習に関する研究論文は、Artificial Intelligence and Statistics 2023（AISTATS 2023）に採択されました。