発見
1.11111111111111・・・(2進表記)というのを、round to nearestにした時には10になるんだけれども、その場合の扱いを間違えていた。うわー、どうしようこれ。なんかそこだけ修正したら、かなりfmulが遅くなったんだけど・・・
1.11111111111111・・・(2進表記)というのを、round to nearestにした時には10になるんだけれども、その場合の扱いを間違えていた。うわー、どうしようこれ。なんかそこだけ修正したら、かなりfmulが遅くなったんだけど・・・