2019-07-02から1日間の記事一覧
2進数での小数 小数って、10進数だと「1.24」のようなものですね、当たり前です。 さて、2進数だと?という話です。 固定小数点 例えば2進数の「101.01」(10進数でいう5.25)を8ビットの固定小数点数で表現するときに、4桁目の後を小数点の場所と決めると、…
2進数での小数 小数って、10進数だと「1.24」のようなものですね、当たり前です。 さて、2進数だと?という話です。 固定小数点 例えば2進数の「101.01」(10進数でいう5.25)を8ビットの固定小数点数で表現するときに、4桁目の後を小数点の場所と決めると、…