あんりふ!

スマホ、タブレット、PC、Amazon、Windows etc...お得情報やHow toブログ

2022-06-14から1日間の記事一覧

コンピュータにおける誤差の種類【桁落ち・情報落ち・桁あふれ誤差・丸め誤差・打切り誤差】

10進数で1÷3をすると、割り切れない数となります。 1÷3 = 0.33333333..... 当たり前ですが3進数なら10進数の1/3や2/3は割り切れる数です。※()内は基数 1/3 (10) = 0.1 (3) 2/3 (10) = 0.2 (3) 2進数の場合においても無限小数はあり、例えば10進数の0.1を2進…