大規模最適化問題に対する自動適応性を持つ一次法の確立

一种自动适应大规模优化问题的一阶方法的建立

• 批准号: 21K17711
• 负责人: 伊藤 勝
• 金额: $ 2.33万
• 依托单位: Nihon University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Early-Career Scientists
• 财政年份: 2021
• 资助国家: 日本
• 起止时间: 2021-04-01 至 2025-03-31
• 项目状态: 未结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-21K17711/
• 关键词: 非線形最適化問題; 一次法; ヘルダー条件; 双曲型錐; 自己同型群; Frank-Wolfe 法; 数理最適化; 最適化アルゴリズム; エラーバウンド

本年度の研究実績の概要は以下の３点にまとめられる。１つ目に、前年度より研究を進めていた課題として、機械学習やデータ分析に現れる大規模最適化問題に対するアルゴリズムのひとつである Frank-Wolfe 法の研究がある。この Frank-Wolfe 法について最小化したい目的関数が非凸関数である場合の考察を行った。非凸関数の最小化に対して、勾配にヘルダー連続性を課すとき、先行研究で知られる最良の計算量と同等の性能を持ちつつパラメータ調整不要な Frank-Wolfe 法を構築することに成功した。この手法に関して理論評価を導出するとともに数値実験による優位性を確認することができた。本結果を国際論文誌に投稿した。また２つ目に、前年度に研究成果の上がった双曲型錐の研究について、より深い考察を行った。特に双曲型錐の新しいクラスを提案することで、前年度に考察していた具体的な双曲型錐である非負象限や半正定値錐を包括的に扱えるようにし、更にその双曲型錐の導分の自己同型群の構造を決定することに成功した。本研究成果を、国際会議で発表するとともに、国際論文誌に投稿し、採択された。３つ目に、凸関数最小化における代表的なアルゴリズムのひとつである射影勾配法の解析が挙げられる。射影勾配法の加速化は目的関数値による最適性指標のもとでは理論面・実用面ともに洗練されてきているものの、勾配のノルムによる最適性指標に関しては最近になって理論的な進展が進みつつあり、実用的な課題も多い。本研究ではこの課題を理論面・実用面の双方に関して、アルゴリズムの正則化と再出発を用いることでこれまでの課題を一部解消するアルゴリズムを構築した。この成果は、次年度に国際会議や国際論文誌での発表を目指す。

The summary of the research results for the year is as follows: 1. Research on Frank-Wolfe Method for Large-scale Optimization Problems in Machine Learning and Data Analysis The Frank-Wolfe method is used to minimize the number of non-convex relations and to investigate the situation. The optimization of non-convex correlation number, the optimization of correlation coefficient, the optimization coefficient, the optimization of correlation coefficient, the optimization coefficient, the The theory of this method is discussed in detail. The results were submitted to the International Journal. The research results of the previous year were studied in detail. In particular, new hyperbolic cones are proposed, and the previous year's investigation was successful in determining the structure of their own isotype groups for hyperbolic cones, including non-negative quadrants and semi-positive definite cones. The results of this research are presented at international conferences and international journals. 3. Minimizing the number of projections and projections represents the analysis of projective matching methods The acceleration of projective matching method is related to the optimal index, which is related to the theoretical and practical aspects. This study focuses on both theoretical and practical aspects of the problem, including the regularization and re-development of the problem, and the construction of the problem. The results of the conference are expected to be presented at the next international conference and international journal.

项目成果

双曲錐と導分による緩和の自己同型群

双曲锥弛豫自同构群及其导数

• 发表时间: 2022
• 作者: 伊藤勝;ブルノ ロウレンソ
• 通讯作者: ブルノ ロウレンソ