大規模な動的複数グラフに対する汎用的な特徴量学習と特徴量推定アルゴリズムの開発

点击翻译按钮获取中文摘要

教師なし表現学習は、データの表現を教師なしのデータのみを用いて抽出することを目的とした機械学習の重要な課題である。既存アルゴリズムの多くは、研究者が試行錯誤の末に提案されており、なぜそのアルゴリズムが機能するかを理論的に示す研究は、アルゴリズム自体の開発に比べて行われていない。このため、表現学習のアルゴリズムについて、理論的な背景や利点欠点を示すことは、研究者による試行錯誤を減らす指針となり、また利用者にとってアルゴリズムの理解が深まるため、重要な課題として位置づけられる。今年度は、グラフ、自然言語処理、画像、時系列データ等、様々なデータに対して利用可能な教師なし表現学習のアルゴリズムのクラスである対照的自己教師付き表現学習における重要なハイパーパラメータである負例数に関する理論解析を、確率論の概念を用いて行った。既存の研究ではこの負例数に関して実験的な挙動を説明が困難であったが、今回行った理論解析は、その困難さを指摘し、クーポンコレクター問題を用いることで、既存手法で報告されている実験的な挙動を説明が容易にした。さらに、複数あるアルゴリズムのうち、特定のアルゴリズムの優位性を解析した観点から正当化した。本研究に基づく研究論文は、機械学習のトップカンファレンスであるThirty-fifth Conference on Neural Information Processing Systemsに採択された。