Analysis of transfer learning based on information geometry

ドメイン適応において、ソースドメインとターゲットドメインの距離が大きい場合、予測性能が低下してしまう。このような問題を解決する方法として、ソースドメインからターゲットドメインへ徐々に移行する中間ドメインを利用する方法がある。これまでの研究では、中間領域のサンプル数が十分に多いことが前提となっていたため、ラベル付きデータを必要とせず自己学習が可能であった。しかし、アクセス可能な中間領域の数が制限されると、領域間の距離が大きくなり、自己学習がうまくいかなくなる。中間領域のサンプルのコストは現実的に様々であり、中間領域がターゲット領域に近いほど中間領域からのサンプルの取得コストが高くなると考えるのが自然である。コストと精度のトレードオフを解決するために、マルチフィデリティとアクティブドメイン適応を組み合わせたフレームワークを開発し、その有効性を、実世界のデータセットを用いた実験により評価した。多くの機械学習手法は、学習データとテストデータが同じ分布に従うと仮定している。しかし、現実世界ではこの仮定が破られることが多い。特に、共変量シフトと呼ばれる、データの変化による限界分布は、機械学習における最も重要な研究テーマの1つである。よく知られた共変量シフト適応法のファミリーを、情報幾何学の枠組みで統一的に記述した。さらに、幾何学的に一般化された共変量シフト適応法のパラメータ探索が効率的に実現できることを示した。

ドメイン適応において、ソースドメインとターゲットドメインの距離が大きい場合、予測性能が低下してしまう。このような問題を解決する方法として、ソースドメインからターゲットドメインへ徐々に移行する中間ドメインを利用する方法がある。これまでの研究では、中間領域のサンプル数が十分に多いことが前提となっていたため、ラベル付きデータを必要とせず自己学習が可能であった。しかし、アクセス可能な中間領域の数が制限されると、領域間の距離が大きくなり、自己学習がうまくいかなくなる。中間領域のサンプルのコストは現実的に様々であり、中間領域がターゲット領域に近いほど中間領域からのサンプルの取得コストが高くなると考えるのが自然である。コストと精度のトレードオフを解決するために、マルチフィデリティとアクティブドメイン適応を組み合わせたフレームワークを開発し、その有効性を、実世界のデータセットを用いた実験により評価した。多くの機械学習手法は、学習データとテストデータが同じ分布に従うと仮定している。しかし、現実世界ではこの仮定が破られることが多い。特に、共変量シフトと呼ばれる、データの変化による限界分布は、機械学習における最も重要な研究テーマの1つである。よく知られた共変量シフト適応法のファミリーを、情報幾何学の枠組みで統一的に記述した。さらに、幾何学的に一般化された共変量シフト適応法のパラメータ探索が効率的に実現できることを示した。