実代数幾何的手法を用いた最適化型信号処理の深化

凸最適化に基づく信号処理手法は，信号処理に現れる諸問題を凸最適化問題として定式化し，その解法を信号処理アルゴリズムとして活用する手法である．この手法は，推定対象の「観測情報」と「先験情報」を同時に活用する柔軟な枠組みとして，スパース信号処理やデータサイエンスなどの発展において中心的な役割を果たしている．この手法のさらなる発展には「新たな最適化問題」に対するアルゴリズムを確立することが最重要課題となっている．本研究は，この課題に現れる種々の困難を最適化理論と実代数幾何のアプローチを用いて解決し，信号処理工学の学術的発展に資することを目的としている．今年度の主な成果として，2020年の成果である「線形変換域でのスパース性の促進に有効な非凸正則化」を用いた非凸正則化付き最小二乗問題(LiGMEモデル）に対して，大域的最適解の探索に重要となる「一般化Moreau強化行列（GME行列）の設計法」を新たに提案している．LiGMEモデルでは，線形変換に対しGME行列を適切に設計することにより，最小化問題の凸性を担保でき，最適解への収束が保証された解法アルゴリズムの活用が可能となる．今年度提案したGME行列の新設計法は，計算時間のかかる固有値分解や反復計算を必要としないため，反復計算を要する既存の設計法(例えば[Liu and Chi 2022])に比べて低計算量で実現可能である．

凸最適化に基づく信号処理手法は，信号処理に現れる諸問題を凸最適化問題として定式化し，その解法を信号処理アルゴリズムとして活用する手法である．この手法は，推定対象の「観測情報」と「先験情報」を同時に活用する柔軟な枠組みとして，スパース信号処理やデータサイエンスなどの発展において中心的な役割を果たしている．この手法のさらなる発展には「新たな最適化問題」に対するアルゴリズムを確立することが最重要課題となっている．本研究は，この課題に現れる種々の困難を最適化理論と実代数幾何のアプローチを用いて解決し，信号処理工学の学術的発展に資することを目的としている．今年度の主な成果として，2020年の成果である「線形変換域でのスパース性の促進に有効な非凸正則化」を用いた非凸正則化付き最小二乗問題(LiGMEモデル）に対して，大域的最適解の探索に重要となる「一般化Moreau強化行列（GME行列）の設計法」を新たに提案している．LiGMEモデルでは，線形変換に対しGME行列を適切に設計することにより，最小化問題の凸性を担保でき，最適解への収束が保証された解法アルゴリズムの活用が可能となる．今年度提案したGME行列の新設計法は，計算時間のかかる固有値分解や反復計算を必要としないため，反復計算を要する既存の設計法(例えば[Liu and Chi 2022])に比べて低計算量で実現可能である．