学習理論の研究と知能情報処理への応用

点击翻译按钮获取中文摘要

1.統計的学習においては,特定の環境で得られたデータを用いる研究が従来多くなされてきた.しかし最近になり,多くの異なる類似したタスク間で情報を共有して学習を行う方法(マルチタスクラーニング)が注目を集めている.我々は,連続的なパラメータをもつマルチタスク分類問題を新たに定式化して理論的な基礎となる結果を与えた.この設定は応用上頻繁に現れるにもかかわらず,今まで系統的な研究がなされてこなかった重要なものである.あるタスクの学習を行う際,近いタスクのデータを取り入れた方が学習結果のばらつきが小さくなるが,あまり異なるタスクから多くのデータを取り入れると学習結果にバイアスが生じる.そのため,どの範囲のタスク集合からデータを統合するかが問題になる.そのための最適な窓幅をサンプルサイズを増やしたときの漸近的な評価を行うことにより求め,その最適窓幅を用いた時の汎化誤差を与えた.さらに,最適な窓を用いて統合を行った際の汎化誤差が,他のいかなる方法で学習機械を構成してもミニマックス性の意味で改良することができないことの証明を与えた.本研究に関連し,マルチタスクラーニングにおいて顕著な業績をあげているUniversity College LondonのPontil氏の研究室を訪れ意見交換を行った.2.二つの確率変数間の独立性を測る新しい指標を提案しその理論的解析および実問題への応用実験を行った.提案した指標は一般に広く用いられている相互情報量に非常に似たものであるが,推定量が解析的に求められることやモデル選択が可能であるという利点がある.我々はこの指標を,高次元データから意味のある低次元の表現を得るいわゆる次元削減の問題および独立成分分析に応用し,その有効性を確かめた.本研究および関連する研究はいくつかの査読付き国際学会に発表され,また論文誌にもその一部が発表された.