数理科学IIA（第7回）

今日は、前回説明した拡張Euclid互除法のアルゴリズムを提示した後、次の話題に入りました。

これから数式・数値融合計算の話をするわけですが、そのためには、計算機上での数の表現、特に浮動小数点数の説明が不可欠で、そのためにはメモリ空間の説明があった方がよく、そうなると、計算機全体の装置の説明があった方がよいように思いました。そこで、今回は、計算機の主な装置や、メモリ空間とメモリ容量の単位をはじめとする説明を行いました。

次回は、今回の説明を踏まえて、計算機上の整数と浮動小数の表現について議論する予定です。