SOFTELメモ Developer's blog

会社概要 ブログ 調査依頼 採用情報 ...
技術者募集中

Javascript 丸め誤差(Javascript以外でも、小数点以下1桁でも)

次のJavascriptを実行してみましょう。

<script  type="text/javascript">
alert(0.1*6)
alert(1.001-1)
</script>

結果(1行目のalertの場合)

Javascript 丸め誤差

Javascript 丸め誤差

切り捨て、切り上げ、四捨五入などおこなうときは、要注意。

小数のままでコンピュータ(2進数)で対応するのはどうしても限界があるので、やはり小数点以下2桁までなどの制限をつけるように気をつけた方がよさそうです。

小数点以下2桁の数値を100倍して整数にして計算するなどです。

関連するメモ

コメント(1)

2進数の小数表現 at softelメモ 2010年2月3日 15:53

[…] Javascript 丸め誤差(Javascript以外でも、小数点以下1桁でも) […]