2014-06-20

数理科学IIA(第8回)

今回は、計算機上での整数と浮動小数点数の表現について説明しました。

次回は、浮動小数演算における誤差とそれらが代数計算に与える影響について説明する予定です。

0 件のコメント: