权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

Development of nonlinear semidefinite optimization theory and application to machine learning

非线性半定优化理论的发展及其在机器学习中的应用

基本信息

批准号：
20K19748
负责人：
奥野貴之
金额：
$ 2.66万
依托单位：
Seikei University (2022)Institute of Physical and Chemical Research (2020-2021)
依托单位国家：
日本
项目类别：
Grant-in-Aid for Early-Career Scientists
财政年份：
2020
资助国家：
日本
起止时间：
2020-04-01 至 2024-03-31
项目状态：
已结题

项目摘要

2022年度では, 非線形最適化問題の最重要クラスの一つである最小２乗問題に着目し、とくにその問題に対する数値解法の一つであるレーベンバーグ・マルカート法（以下、LM法）のアルゴリズムの改良型について以下２点の研究を行い、いすれも最適化の国際論文誌に投稿中である。なお、新たに開発した両アルゴリズムとも本研究課題の対象である半正定値錐上の最小２乗問題に適用可能である。１. 加速勾配法に基づいた一般化LM法とそのオラクル計算量保証と２次収束性保証の両立２．リーマン多様体上のLM法の開発と理論保証まず１についてであるが、LM法は或る強凸最適化問題を部分問題として繰返し近似的に解くことで元問題の解へ収束する点列を生成するアルゴリズムである。その近似精度と元問題の解への２次収束性の関係、全体の計算量の見積もりと近似精度の関係は各々知られているものの、両性質を担保できる近似精度の設定は不明だった。提案LM法では、２次収束性と全体の計算量の保証が両方可能な近似精度の設定方法を明らかにした。なお、本LM法は最小２乗問題だけでなく、より一般的なクラスである最小化問題に適用可能である。２の研究ではユークリッド空間上のみで論じられてきたLM法をより一般的な空間であるリーマン多様体に拡張した。本LM法に対して、大域的収束性に加えエラーバウンド条件という緩い条件下で２次収束性を証明した。両手法とも機械学習などで現れる問題に対して適用し、既存のLM法やニュートン法などと比較して優れた性能を発揮することを確認した。

2022 で Nonlinear optimization problem the most important クのラスの a つである minimum 2 乗 problem に mesh し, とくにその problem にす seaborne る the numerical solution to a つのであるレーベンバーグ · マルカート method (hereinafter, LM method) のアルゴリズムの altered についてをい, the following 2 points の research いすれも optimization の international paper will contribute にであ Youdaoplaceholder0. なお, new たに open 発した struck アルゴリズムとも this research topic の like で seaborne ある positive semi-definite numerical の minimum 2 乗 problem on cone に may apply である. 1. Accelerated matching method に basis づにたた generalization LM method とそ <s:1> ララ <s:1> <s:1> とそ guarantee of computational quantity と guarantee of secondary development <s:1> ryo ri 2. リーマンのの LM method on others body more open 発と theory guarantee まず 1 についてであるが, LM method は or る convex optimization problems を part として Qiao return しに solution of approximate くことで yuan の solutions へ収 beam すをる point series generated するアルゴリズムである. その approximation precision と yuan の solutions への twice 収 beam sex の masato, all the computation is のの see product もりと approximation precision の masato は each 々 know られているものの, struck を guarantee できる approximation precision の set は unknown だった. The proposed LM method でで, quadratic binding と, total <s:1> computational load <e:1> guarantee が two-party possible な approximation accuracy <e:1> setting method を clear らににたた. Youdaoplaceholder0, the <s:1> minimum 2乗 problem of this LM method だけでなく, よである the general なラスであるラスである minimization problem に may be applicable to である. 2 の research ではユークリッド space のみで theory じられてきた LM method をより general な space であるリーマン others more body に company, zhang した. The LM method にし seaborne て, large domain 収 beam に plus えエラーバウンド conditions という slow い収 beam sex をで 2 times to prove that under the condition of した. Struck gimmick とも rote learning などで now れる problem にし seaborne てし, existing の LM method やニュートン method などと compare して optimal れた performance を発 swing することを confirm した.