回答受付終了まであと7日

電子計算機は答えがデタラメになる計算式がある らしいのですが…(例8×10)とか、なぜデタラメな答えが出るのですか ?

回答(2件)

8×10=80 これは厳密に正解を出しますが、割り算 1÷3=0.33333333333333333.......... 割り切れず数字が無限に続くけど、 コンピュータは表現できず 0.33333333333333333 と切り捨ててしまい、それに3を掛けると 0.99999999999999999 元の1には戻らないことになります。 コンピュータで二進数を使うとこうなり、 金銭計算など、まずいとして十進数を使う コンピータもあります。

この回答はいかがでしたか? リアクションしてみよう