こなさんち

しがないメンヘラエンジニアの日記。

2019-07-02から1日間の記事一覧

基礎理論~浮動小数点数~

2進数での小数 小数って、10進数だと「1.24」のようなものですね、当たり前です。 さて、2進数だと?という話です。 固定小数点 例えば2進数の「101.01」(10進数でいう5.25)を8ビットの固定小数点数で表現するときに、4桁目の後を小数点の場所と決めると、…