一般ダイバージェンスに基づく経験推定を用いた機械学習法

前年度には、関数fの選択に対応しデータ中に含まれる外れ値に対する頑健性や最大歪みの最小化を柔軟に実現する、f分離可能歪み尺度最小化に基づく推定法を考案し、機械学習アルゴリズムへの適用とその統計的性質の調査を行った。当該年度には、この推定法において推定量の一致性の必要条件である推定方程式の不偏性に着目し、解析的計算が困難であるバイアス補正項が消滅する場合について詳細な調査を行った。f分離可能歪み尺度最小化に基づく推定法は、統計モデル、単調増加関数f、ブレグマンダイバージェンスの三つの要素から構成される。しかしながら、どのような場合にバイアス補正項が消滅するのか定かではなかった。推定に用いるブレグマンダイバージェンスがマハラノビス距離もしくは板倉斎藤距離の場合にバイアス補正項が消滅することが明らかになった。このとき、統計モデルにはマハラノビス距離に特徴づけられる楕円分布および板倉斎藤距離に特徴づけられる板倉斎藤分布が対応する。特に、板倉斎藤分布は特別な場合にガンマ分布を含む連続型の確率分布であり、本研究で初めて発見されたものである。関数fの条件は簡素な積分が有界かどうかで表される。この結果を一般化することで、推定に一般のブレグマンダイバージェンスを用いた場合に推定方程式の不偏性が成り立つ条件を議論した。バイアス補正項が消滅した場合を扱っていることから、推定方程式は自動的に正規化されているとみなすことができる。この正規化された推定方程式には、潜在バイアス最小化と呼ばれる、外れ値の割合が大きい場合にその悪影響を任意に小さくできる特性を得られる可能性がある。この観点から潜在バイアス最小化を実現可能な関数fの条件を特徴づけた。上記の内容は国際学会に投稿し、採択された。

前年度には、関数fの選択に対応しデータ中に含まれる外れ値に対する頑健性や最大歪みの最小化を柔軟に実現する、f分離可能歪み尺度最小化に基づく推定法を考案し、機械学習アルゴリズムへの適用とその統計的性質の調査を行った。当該年度には、この推定法において推定量の一致性の必要条件である推定方程式の不偏性に着目し、解析的計算が困難であるバイアス補正項が消滅する場合について詳細な調査を行った。f分離可能歪み尺度最小化に基づく推定法は、統計モデル、単調増加関数f、ブレグマンダイバージェンスの三つの要素から構成される。しかしながら、どのような場合にバイアス補正項が消滅するのか定かではなかった。推定に用いるブレグマンダイバージェンスがマハラノビス距離もしくは板倉斎藤距離の場合にバイアス補正項が消滅することが明らかになった。このとき、統計モデルにはマハラノビス距離に特徴づけられる楕円分布および板倉斎藤距離に特徴づけられる板倉斎藤分布が対応する。特に、板倉斎藤分布は特別な場合にガンマ分布を含む連続型の確率分布であり、本研究で初めて発見されたものである。関数fの条件は簡素な積分が有界かどうかで表される。この結果を一般化することで、推定に一般のブレグマンダイバージェンスを用いた場合に推定方程式の不偏性が成り立つ条件を議論した。バイアス補正項が消滅した場合を扱っていることから、推定方程式は自動的に正規化されているとみなすことができる。この正規化された推定方程式には、潜在バイアス最小化と呼ばれる、外れ値の割合が大きい場合にその悪影響を任意に小さくできる特性を得られる可能性がある。この観点から潜在バイアス最小化を実現可能な関数fの条件を特徴づけた。上記の内容は国際学会に投稿し、採択された。