2010-10-14から1日間の記事一覧
と、ちょっと調べてみたら、浮動小数点の計算結果を2進数に変換した段階で一致しないとそういった値が表示されるとあったのだけど 具体的な計算がイメージできないのでとりあえず解決方法を。と、おもったら仕様だったんだ。 数値をx10(^小数点以下桁数)…
と、ちょっと調べてみたら、浮動小数点の計算結果を2進数に変換した段階で一致しないとそういった値が表示されるとあったのだけど 具体的な計算がイメージできないのでとりあえず解決方法を。と、おもったら仕様だったんだ。 数値をx10(^小数点以下桁数)…