double

【Java】doubleを使用した計算による誤差

既存アプリのバグに遭遇した際のメモ。【問題】 次のような変数があった場合、それらの積はいくつになるだろうか。 double d1=558.3 int i1=100 期待値は言うまでもなく、55830.0でしょう。 しかし、55829.99999999999になっているケースがあったという話。…