疑似多倍長演算による現代アーキテクチャに適した高速な数値計算アルゴリズムの創生

点击翻译按钮获取中文摘要

近接・重複固有値が存在しない場合の固有値分解及び近接・重複特異値が存在しない場合の特異値分解に対する高精度数値計算アルゴリズムの開発に従事し，以下の研究を実施した．(1) 先行研究では，ある数値計算法によって得られた近似固有ベクトルの精度を改善する反復改良法が提案されている．この手法は主に高精度行列積で構成されており，またすべての演算は高精度に計算する必要があるとされていた．本研究では一部の計算を低精度に計算しても同様の収束性をもつことを示し，1反復当たりの高精度行列積の回数を削減できた．コンシューマ向けGPUやスーパーコンピュータ「富岳」などの様々な環境での数値実験により，提案手法の高速性を明らかにした．(2) (1)で開発した手法を基に，1反復当たりの高精度行列積をさらに削減した混合精度反復改良法を提案した．本アルゴリズムは先行研究と同程度の収束性をもちながら1反復当たりの計算時間が削減される．(3) (1)と同様に，先行研究によって提案されている特異値分解に対する反復改良法を混合精度数値計算アルゴリズムへ拡張し，1反復当たりの高精度行列積の回数を削減した．(4) (3)で開発した手法を基に，1反復当たりの高精度行列積をさらに削減した混合精度反復改良法を提案した．本アルゴリズムは先行研究と同程度の収束性をもちながら1反復当たりの計算時間が削減される．(2)と同様に，数値実験によって提案手法の高速性を明らかにした．また，エラーフリー変換を用いた高速な高精度行列乗算アルゴリズムについて，グラム行列を生成する行列積に対する効率的なアプローチを提案した．さらに，様々な精度保証法で必要な3つの行列の積の包含について，従来法よりもタイトな結果を同等の計算コストで得る手法を提案し，それに対する誤差解析も行った．以上の成果について，学会発表や論文投稿も実施した．