Processing 有効数字 小数の切り捨て、四捨五入

小数型変数であるdoubleやfloatは丸め誤差などの影響を受ける。
例えば、0.1ずつインクリメントしていても0.1999999のようになることがある。

実際は0.2として数値を扱いたいのに0.1999999では”==”などの演算子がうまく利用できない。
そこで、小数第n位を切り捨てもしくは四捨五入する方法を紹介する。

使用する関数は
floor(n) 小数部を切り捨てる関数。
引数nはfloat型 返り値はint型

round(n) 小数第一位を四捨五入する関数。
引数nはfloat型 返り値はint型

適用したい小数の位が小数第一位になるように10の冪乗を掛けてあげてから、
これらの関数を適用することで任意の桁で小数の切り捨て、四捨五入を適用することができる。

コメントを残す

メールアドレスが公開されることはありません。