機械学習のための再生核の生成と選択

点击翻译按钮获取中文摘要

本研究の主眼のである、多様で複雑なカーネル族の生成において重要な構成要素の一つは、所与の関数族を結びつける正定値対称行列のパラメトライズであり、特に当該正定値対称行列の固有ベクトルからなる直交行列のパラメトライズが問題となる。当該直交行列を「歪対称行列の Cayley 変換」によって生成することを着想した。これは、当該写像が可微分であり、後段の最適化に対して有利に働くとの考えによるものである。一方、当該写像では、全ての直交行列を生成することができないこと、具体的には固有値-1を有する直交行列が生成できないことが知られており、まずは、当該変換によって、どのような直交行列が得られるかを理論的に解析した。その結果、以下の二つの理論的成果を得た。(1)直交行列を構成するベクトルの順序の違いを同一視した直交行列集合の同値類の代表元を、歪対称行列の Cayley 変換により必ず生成できるための(当該直交行列が満たすべき)必要十分条件を明らかにし、更に既知の知見と組み合わせることにより、ベクトルの向き、及び、順序の違いを無視した直交行列の代表元を、歪対称行列の Cayley 変換により無条件で生成できることを示した。なお、歪対称行列の Cayley 変換により生成される直交行列を、同値類と関連させて解析した結果は、我々独自のものである。(2)加えて、各要素の絶対値が√2-1以下となるような歪対称行列の Cayley 変換によって、当該代表元を無条件で構成できることも証明した。この成果は、従来、別のアプローチで得られていた上限である1よりも小さく、最適化において探索範囲を大幅に縮減できることを意味する。