- Ruby 初心者スレッド Part 55
704 ：デフォルトの名無しさん[sage]：2014/11/01(土) 10:53:07.72 ID:KbCSRqlI - ある1万桁程度のBignum同士の乗算が
実際の値とは異なるものになってしまうのですが、何故なのでしょうか？
ruby-2.1.3 とruby-2.1.4 で動作を確認しました。
OSはvistaです。
|
- Ruby 初心者スレッド Part 55
706 ：デフォルトの名無しさん[sage]：2014/11/01(土) 11:48:23.78 ID:KbCSRqlI - お返事ありがとうございます。
具体的には、高速で階乗を求めるソースを考えている時に起こりました。
http://codepad.org/uMrdmWoQ
上のソース(numの階乗を出力)で、5688以上の階乗を求めようとすると誤った値が出力されます。
原因を調べたところ、いつくかの乗算の結果がおかしなことになっていました。
その例です↓
http://codepad.org/Evm4WIzw
なお、codepad上では正しく動いています。
|
- Ruby 初心者スレッド Part 55
707 ：デフォルトの名無しさん[sage]：2014/11/01(土) 11:59:15.57 ID:KbCSRqlI - 追記です。
1.8.7
1.9.3
2.0.0
では正常に動くことを確認しました。
|
- Ruby 初心者スレッド Part 55
713 ：デフォルトの名無しさん[sage]：2014/11/01(土) 14:18:25.31 ID:KbCSRqlI - >>708
どうもありがとうございました！！
|