2014-06-27

数理科学IIA(第9回)

今回は、浮動小数演算に現われる誤差として、丸め誤差、桁落ち誤差、情報落ちについて説明した後、計算代数で浮動小数演算を用いた場合に誤差が現われる例として、1変数多項式に対するEuclidの互除法を取り上げました。そして、このような計算の際に現われる計算の困難さを克服する手法の一つとして、数式・数値融合計算の目的などを紹介しました。

授業の残り回数も少なくなってきましたが、残りの授業では、数式・数値融合計算の一つとして「近似GCD(最大公約子)計算」を取り上げ、その手法などを紹介していきたいと思います。

0 件のコメント: