权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

Development of nonlinear semidefinite optimization theory and application to machine learning

非线性半定优化理论的发展及其在机器学习中的应用

基本信息

批准号：
20K19748
负责人：
奥野貴之
金额：
$ 2.66万
依托单位：
Seikei University (2022)Institute of Physical and Chemical Research (2020-2021)
依托单位国家：
日本
项目类别：
Grant-in-Aid for Early-Career Scientists
财政年份：
2020
资助国家：
日本
起止时间：
2020-04-01 至 2024-03-31
项目状态：
已结题

项目摘要

2022年度では, 非線形最適化問題の最重要クラスの一つである最小２乗問題に着目し、とくにその問題に対する数値解法の一つであるレーベンバーグ・マルカート法（以下、LM法）のアルゴリズムの改良型について以下２点の研究を行い、いすれも最適化の国際論文誌に投稿中である。なお、新たに開発した両アルゴリズムとも本研究課題の対象である半正定値錐上の最小２乗問題に適用可能である。１. 加速勾配法に基づいた一般化LM法とそのオラクル計算量保証と２次収束性保証の両立２．リーマン多様体上のLM法の開発と理論保証まず１についてであるが、LM法は或る強凸最適化問題を部分問題として繰返し近似的に解くことで元問題の解へ収束する点列を生成するアルゴリズムである。その近似精度と元問題の解への２次収束性の関係、全体の計算量の見積もりと近似精度の関係は各々知られているものの、両性質を担保できる近似精度の設定は不明だった。提案LM法では、２次収束性と全体の計算量の保証が両方可能な近似精度の設定方法を明らかにした。なお、本LM法は最小２乗問題だけでなく、より一般的なクラスである最小化問題に適用可能である。２の研究ではユークリッド空間上のみで論じられてきたLM法をより一般的な空間であるリーマン多様体に拡張した。本LM法に対して、大域的収束性に加えエラーバウンド条件という緩い条件下で２次収束性を証明した。両手法とも機械学習などで現れる問題に対して適用し、既存のLM法やニュートン法などと比較して優れた性能を発揮することを確認した。

In 2022, the most important problem of non-linear optimization problem is the minimum 2-point problem. The numerical solution of the problem is the most important problem. The LM method (hereinafter referred to as LM method) is the most important problem. The object of this study is to solve the minimum 2-D problem on a semi-definite cone. 1. 2. The development and theoretical guarantee of LM method on multi-object; 1. The optimization problem of strong convexity; 2. The optimization problem of partial problem; 3. The optimization problem of strong convexity; 4. The relationship between approximation accuracy and the second order convergence of the solution of the element problem, the relationship between the product of the total calculation and the approximation accuracy, and the relationship between the quality of the solution and the approximation accuracy are unknown. The LM method is proposed to ensure the accuracy of approximation by calculating the total amount of convergence of the two orders. This LM method is applicable to minimum 2 problems. 2. The study of LM method in general space This LM method is used to prove the convergence of large domains under the condition of increasing convergence and decreasing convergence. The problem of mechanical learning is applicable, existing LM methods are compared, and performance is confirmed.