勉強の為に転載しました。
http://blog.asial.co.jp/1191
こんちは。松田です。
最近もJavaScriptばっかり書いています。
JavaScriptで計算を行う時、気を付けなければいけないのが小数点を含んだ数値の計算です。
小数点を含んだ数値で計算を行うと、思わぬ所で予想外の値に出会うことになります。
例えば以下の様な仕様があったとします。
これを単純に実装すると以下のようになります。
そして実行結果です。
0.1kg痩せたはずが、0kgと表示されてしまいました。
たかだか100gとはいえ、こんな表示になったらガックリきますね。
一行ずつ値を追っていくとわかるのですが、4行目で減算した時点でdiffの値が "0.09999999999999432" とズレてしまっています。
これはJavaScriptがIEEE 754という規格に従って実装されているためです。
つまり、この計算結果はJavaScriptの仕様なのでJavaScript的には正しい値であり、避けようがありません。
このIEEE 754と小数計算の誤差についての関係は下記のURLの解説が分かりやすくオススメです。
http://pc.nikkeibp.co.jp/pc21/special/gosa/eg4.shtml
これの対処法として、小数値に10^Nの数値をかけて整数値にしてから計算してしまおう!
といった対処法を見かけることもありますが、厳密にはこれも間違いです。
(...でも 66.9 * 10 * 10 で計算すると正確に出せたりします。)
というわけで前置きが長くなってしまいましたが、小数の減算・乗算を正確に計算するfunctionを作ってみました。
Math.subtract()で減算、Math.multiply()で乗算を行います。
基本的には全て整数値に変換してからの計算を行なっているのですが、 整数値に変換する際に10のN乗を掛けるのではなく、数値文字列からドットを取り除くようにしています。
これで小数点計算は誤差なく出来るようになったんじゃないかと思います。
正確なテストを行ったわけではないのでどこかに見落としがあるかもしれませんが、この記事で小数が原因のバグに出会う人が少しでも少なくなれば幸いです。
最近もJavaScriptばっかり書いています。
JavaScriptで計算を行う時、気を付けなければいけないのが小数点を含んだ数値の計算です。
小数点を含んだ数値で計算を行うと、思わぬ所で予想外の値に出会うことになります。
例えば以下の様な仕様があったとします。
昨日の体重から今日の体重を引いて、体重の増減量を表示させる。
増減量の小数点第2位以下は切り捨てて表示。
これを単純に実装すると以下のようになります。
var oldValue, newValue, diff;
oldValue = 67;
newValue = 66.9;
diff = oldValue - newValue;
diff = Math.floor(diff * 10) / 10; // 小数点第2位以下切り捨て
console.log("今日は" + diff + "kgやせました!");
そして実行結果です。
今日は0kgやせました!
ファッ!?0.1kg痩せたはずが、0kgと表示されてしまいました。
たかだか100gとはいえ、こんな表示になったらガックリきますね。
一行ずつ値を追っていくとわかるのですが、4行目で減算した時点でdiffの値が "0.09999999999999432" とズレてしまっています。
これはJavaScriptがIEEE 754という規格に従って実装されているためです。
つまり、この計算結果はJavaScriptの仕様なのでJavaScript的には正しい値であり、避けようがありません。
このIEEE 754と小数計算の誤差についての関係は下記のURLの解説が分かりやすくオススメです。
http://pc.nikkeibp.co.jp/pc21/special/gosa/eg4.shtml
これの対処法として、小数値に10^Nの数値をかけて整数値にしてから計算してしまおう!
といった対処法を見かけることもありますが、厳密にはこれも間違いです。
console.log(66.9 * 10); // => 669
console.log(66.9 * 100); // => 6690.000000000001
上記のように、小数を整数値に変換しようとした時点で計算結果がズレてしまうことがあるので、正確な値が出せるとは言えません。(...でも 66.9 * 10 * 10 で計算すると正確に出せたりします。)
というわけで前置きが長くなってしまいましたが、小数の減算・乗算を正確に計算するfunctionを作ってみました。
/**
* Mathオブジェクトを拡張
*/
var Math = Math || {};
/**
* 与えられた値の小数点以下の桁数を返す
* multiply, subtractで使用
*
* 例)
* 10.12 => 2
* 99.999 => 3
* 33.100 => 1
*/
Math._getDecimalLength = function(value) {
var list = (value + '').split('.'), result = 0;
if (list[1] !== undefined & & list[1].length > 0) {
result = list[1].length;
}
return result;
};
/**
* 乗算処理
*
* value1, value2から小数点を取り除き、整数値のみで乗算を行う。
* その後、小数点の桁数Nの数だけ10^Nで除算する
*/
Math.multiply = function(value1, value2) {
var intValue1 = +(value1 + '').replace('.', ''),
intValue2 = +(value2 + '').replace('.', ''),
decimalLength = Math._getDecimalLength(value1) + Math._getDecimalLength(value2),
result;
result = (intValue1 * intValue2) / Math.pow(10, decimalLength);
return result;
};
/**
* 減算処理
*
* value1,value2を整数値に変換して減算
* その後、小数点の桁数分だけ小数点位置を戻す
*/
Math.subtract = function(value1, value2) {
var max = Math.max(Math._getDecimalLength(value1), Math._getDecimalLength(value2)),
k = Math.pow(10, max);
return (Math.multiply(value1, k) - Math.multiply(value2, k)) / k;
};
// 減算テスト
console.log(67 - 66.9); // => 0.09999999999999432 NG
console.log(Math.subtract(67, 66.9)); // => 0.1 OK
// 乗算テスト
console.log(66.9 * 100); // => 6690.000000000001 NG
console.log(Math.multiply(66.9, 100)); // => 6690 OK
Math.subtract()で減算、Math.multiply()で乗算を行います。
基本的には全て整数値に変換してからの計算を行なっているのですが、 整数値に変換する際に10のN乗を掛けるのではなく、数値文字列からドットを取り除くようにしています。
これで小数点計算は誤差なく出来るようになったんじゃないかと思います。
正確なテストを行ったわけではないのでどこかに見落としがあるかもしれませんが、この記事で小数が原因のバグに出会う人が少しでも少なくなれば幸いです。
0 コメント:
コメントを投稿