Study on algorithms of numerical methods for large scale nonlinear optimization problems and their implementation

非線形最適化問題に対する数値解法について以下の通り研究した。研究成果の一部は日本OR学会、応用数理学会、研究集会（統計数理研究所）等で発表した。また、研究成果が学術論文誌等に掲載された。（１）制約条件付き最適化問題に対して、ラグランジュ関数の射影ヘッセ行列の負の曲率方向を利用することによって最適性の２次必要条件を満たす点への収束性を保証する信頼領域逐次２次計画法を提案した。　（２）滑らかな関数と微分不可能な関数の和で表現されるような目的関数を持つ最適化問題に対する準ニュートン型近接勾配法を取り扱った。近似行列として正定値性を保持するようなSR1更新公式を用いることで部分問題を容易に解くことが可能になるので、それを取り入れたアルゴリズムを提案した。さらに同様の最適化問題に対して、対角行列を重みとした近接写像が閉形式で計算ができることに注目して、ヘッセ行列の対角成分だけを取り入れたニュートン型近接勾配法（近接対角ニュートン法）を提案し実用化を図った。　（３）L1型正則化項を持つ無制約最適化問題に対するニュートン型近接勾配法を考え、部分問題の目的関数の上界近似を用いることで部分問題の近似解を閉形式で表現できるような手法を提案し、それを組み込んだアルゴリズムを開発した。　（４）各目的関数が滑らかな関数とD.C.関数の和で表されるような多目的最適化問題に対する準ニュートン型近接勾配法を提案し、直線探索を組み込んだアルゴリズムを開発した。さらに、提案アルゴリズムの大域的な収束性を証明するとともに、数値実験によってその有効性を検証した。　（５）応用上、変数の属性ごとに独立した性質を持つ上下限制約付き最適化問題がしばしば現れるような問題に対して、変数をブロックで分け、属性ごとに異なるスケーリングを施す有効制約ブロックBarzilai-Borwein法を提案した。

非線形最適化問題に対する数値解法について以下の通り研究した。研究成果の一部は日本OR学会、応用数理学会、研究集会（統計数理研究所）等で発表した。また、研究成果が学術論文誌等に掲載された。（１）制約条件付き最適化問題に対して、ラグランジュ関数の射影ヘッセ行列の負の曲率方向を利用することによって最適性の２次必要条件を満たす点への収束性を保証する信頼領域逐次２次計画法を提案した。　（２）滑らかな関数と微分不可能な関数の和で表現されるような目的関数を持つ最適化問題に対する準ニュートン型近接勾配法を取り扱った。近似行列として正定値性を保持するようなSR1更新公式を用いることで部分問題を容易に解くことが可能になるので、それを取り入れたアルゴリズムを提案した。さらに同様の最適化問題に対して、対角行列を重みとした近接写像が閉形式で計算ができることに注目して、ヘッセ行列の対角成分だけを取り入れたニュートン型近接勾配法（近接対角ニュートン法）を提案し実用化を図った。　（３）L1型正則化項を持つ無制約最適化問題に対するニュートン型近接勾配法を考え、部分問題の目的関数の上界近似を用いることで部分問題の近似解を閉形式で表現できるような手法を提案し、それを組み込んだアルゴリズムを開発した。　（４）各目的関数が滑らかな関数とD.C.関数の和で表されるような多目的最適化問題に対する準ニュートン型近接勾配法を提案し、直線探索を組み込んだアルゴリズムを開発した。さらに、提案アルゴリズムの大域的な収束性を証明するとともに、数値実験によってその有効性を検証した。　（５）応用上、変数の属性ごとに独立した性質を持つ上下限制約付き最適化問題がしばしば現れるような問題に対して、変数をブロックで分け、属性ごとに異なるスケーリングを施す有効制約ブロックBarzilai-Borwein法を提案した。