可変長有理数演算システムの研究開発

コンピュータによる数値計算は誤差を伴う。それは浮動小数点方式のもつ丸め誤差に起因する。入力誤差、演算誤差の累積などの演算結果への影響(岡野,岩橋の調査)をTSS端末で視覚的に容易に理解させられるCAI的システムの開発(小島、藤井、橋本)を行った。また併せて曲面の方程式と視点を入力して、CRT画面にその透視図表示のできるシステムも開発した(橋本、小島)。K.Hwang,T.P.Chang,P.Kornerup,D.W.Matula等の有理数演算システムによる高精度演算(宮原、梅田、山本の調査)がある。これを指数部をもった可変長有理数演算システムに拡張したもの(AMPA)はすでに小島、藤井が開発している。このAMPAシステムによって、有理数データの線形問題をあつかえば入力誤差演算誤差を0とすることができ、したがって、行列式の値detA、行列の階数rankA、連立1次方程式の一般解などを正確に求めることができる。今回、このことを利用して行列の固有値の高精度計算を試みた。正方行列Aの固有値は固有方程式f(x)=det(AーxI)=0の解であるが、これをNewton法で解く。適当な近似値x_0を初期値としてx_n=x_<n-1>-f(x_<n-1>)/f'(x_<nー1>)(n=1,2,3,…)で反複計算をする。通常の浮動小数点によるアルゴリズム(例えばQR法)で近似固有値を求め、これをAMPAシステムの有理数に変換して、x_0とする。f(x_<n-1>),f'(x_<n-1>),x_nの値を演算誤差なしで計算することができ、2次の収束をするので、早く真の固有値に近づく。結果の有効精度を10進40桁とか100桁のように設定して計算を行えばよい。この結果については名市大紀要に発表予定である。AMPAシステムの今後の課題は演算のスピードアップである。なお、この研究の過程において、非線形フィルタリングでの安定性についての結果なども得られた。

コンピュータによる数値計算は誤差を伴う。それは浮動小数点方式のもつ丸め誤差に起因する。入力誤差、演算誤差の累積などの演算結果への影響(岡野,岩橋の調査)をTSS端末で視覚的に容易に理解させられるCAI的システムの開発(小島、藤井、橋本)を行った。また併せて曲面の方程式と視点を入力して、CRT画面にその透視図表示のできるシステムも開発した(橋本、小島)。K.Hwang,T.P.Chang,P.Kornerup,D.W.Matula等の有理数演算システムによる高精度演算(宮原、梅田、山本の調査)がある。これを指数部をもった可変長有理数演算システムに拡張したもの(AMPA)はすでに小島、藤井が開発している。このAMPAシステムによって、有理数データの線形問題をあつかえば入力誤差演算誤差を0とすることができ、したがって、行列式の値detA、行列の階数rankA、連立1次方程式の一般解などを正確に求めることができる。今回、このことを利用して行列の固有値の高精度計算を試みた。正方行列Aの固有値は固有方程式f(x)=det(AーxI)=0の解であるが、これをNewton法で解く。適当な近似値x_0を初期値としてx_n=x_<n-1>-f(x_<n-1>)/f'(x_<nー1>)(n=1,2,3,…)で反複計算をする。通常の浮動小数点によるアルゴリズム(例えばQR法)で近似固有値を求め、これをAMPAシステムの有理数に変換して、x_0とする。f(x_<n-1>),f'(x_<n-1>),x_nの値を演算誤差なしで計算することができ、2次の収束をするので、早く真の固有値に近づく。結果の有効精度を10進40桁とか100桁のように設定して計算を行えばよい。この結果については名市大紀要に発表予定である。AMPAシステムの今後の課題は演算のスピードアップである。なお、この研究の過程において、非線形フィルタリングでの安定性についての結果なども得られた。