2010-10-14から1日間の記事一覧

数値の計算をさせると何で小数点以下の値がおかしな値に?

と、ちょっと調べてみたら、浮動小数点の計算結果を2進数に変換した段階で一致しないとそういった値が表示されるとあったのだけど 具体的な計算がイメージできないのでとりあえず解決方法を。と、おもったら仕様だったんだ。 数値をx10(^小数点以下桁数)…