大規模最適化問題に対する自動適応性を持つ一次法の確立

本年度の研究実績の概要は以下の３点にまとめられる。１つ目に、前年度より研究を進めていた課題として、機械学習やデータ分析に現れる大規模最適化問題に対するアルゴリズムのひとつである Frank-Wolfe 法の研究がある。この Frank-Wolfe 法について最小化したい目的関数が非凸関数である場合の考察を行った。非凸関数の最小化に対して、勾配にヘルダー連続性を課すとき、先行研究で知られる最良の計算量と同等の性能を持ちつつパラメータ調整不要な Frank-Wolfe 法を構築することに成功した。この手法に関して理論評価を導出するとともに数値実験による優位性を確認することができた。本結果を国際論文誌に投稿した。また２つ目に、前年度に研究成果の上がった双曲型錐の研究について、より深い考察を行った。特に双曲型錐の新しいクラスを提案することで、前年度に考察していた具体的な双曲型錐である非負象限や半正定値錐を包括的に扱えるようにし、更にその双曲型錐の導分の自己同型群の構造を決定することに成功した。本研究成果を、国際会議で発表するとともに、国際論文誌に投稿し、採択された。３つ目に、凸関数最小化における代表的なアルゴリズムのひとつである射影勾配法の解析が挙げられる。射影勾配法の加速化は目的関数値による最適性指標のもとでは理論面・実用面ともに洗練されてきているものの、勾配のノルムによる最適性指標に関しては最近になって理論的な進展が進みつつあり、実用的な課題も多い。本研究ではこの課題を理論面・実用面の双方に関して、アルゴリズムの正則化と再出発を用いることでこれまでの課題を一部解消するアルゴリズムを構築した。この成果は、次年度に国際会議や国際論文誌での発表を目指す。

本年度の研究実績の概要は以下の３点にまとめられる。１つ目に、前年度より研究を進めていた課題として、機械学習やデータ分析に現れる大規模最適化問題に対するアルゴリズムのひとつである Frank-Wolfe 法の研究がある。この Frank-Wolfe 法について最小化したい目的関数が非凸関数である場合の考察を行った。非凸関数の最小化に対して、勾配にヘルダー連続性を課すとき、先行研究で知られる最良の計算量と同等の性能を持ちつつパラメータ調整不要な Frank-Wolfe 法を構築することに成功した。この手法に関して理論評価を導出するとともに数値実験による優位性を確認することができた。本結果を国際論文誌に投稿した。また２つ目に、前年度に研究成果の上がった双曲型錐の研究について、より深い考察を行った。特に双曲型錐の新しいクラスを提案することで、前年度に考察していた具体的な双曲型錐である非負象限や半正定値錐を包括的に扱えるようにし、更にその双曲型錐の導分の自己同型群の構造を決定することに成功した。本研究成果を、国際会議で発表するとともに、国際論文誌に投稿し、採択された。３つ目に、凸関数最小化における代表的なアルゴリズムのひとつである射影勾配法の解析が挙げられる。射影勾配法の加速化は目的関数値による最適性指標のもとでは理論面・実用面ともに洗練されてきているものの、勾配のノルムによる最適性指標に関しては最近になって理論的な進展が進みつつあり、実用的な課題も多い。本研究ではこの課題を理論面・実用面の双方に関して、アルゴリズムの正則化と再出発を用いることでこれまでの課題を一部解消するアルゴリズムを構築した。この成果は、次年度に国際会議や国際論文誌での発表を目指す。