トップページ > プログラム > 2014年04月27日 > Ku2C+Nnx

書き込み順位＆時間帯一覧

44 位/181 ID中時間01234567891011121314151617181920212223Total
書き込み数0000000000000000010010002



使用した名前一覧書き込んだスレッド一覧
デフォルトの名無しさん
575
プログラミングのお題スレ Part3

書き込みレス一覧

プログラミングのお題スレ Part3
575 ：デフォルトの名無しさん[sage]：2014/04/27(日) 17:59:46.92 ID:Ku2C+Nnx
シンソフィア開発ソフト「がんばる私の家計ダイアリー」の電卓機能におけるバグを再現する
http://www.nintendo.co.jp/ds/a2yj/inf.html
再現するのは「多桁×多桁の掛け算(110.6×19など)」だけでかまわない
入出力仕様:
110.6*18=1990.8
110.6*19=1101.4(!)
110.6*20=2212
1106*19=11014(!)
110.5*19=2099.5

余裕があれば「割られる数が9桁の割り算」も再現する
不具合が出る入力は不明なので各自推理する
入出力仕様:
214358881/11=19487171
965782365/19=50830650.7(切り捨て)
プログラミングのお題スレ Part3
585 ：575[sage]：2014/04/27(日) 20:26:35.93 ID:Ku2C+Nnx
「110.6*19=1101.4」になるバグを再現してほしかったし

IEEE754 32bit-floatなら8桁のときも不具合がおきると思ったので
単純な精度問題だとは考えていなかった
割り算の出力形式はよくある電卓同様で
・むやみに小数点以下の0を付けない
・9桁(小数点含まず)を超えた場合は10桁目を切り捨てる
を守ってほしい

だから>>579では駄目だね


※このページは、『２ちゃんねる』の書き込みを基に自動生成したものです。オリジナルはリンク先の２ちゃんねるの書き込みです。
※このサイトでオリジナルの書き込みについては対応できません。
※何か問題のある場合はメールをしてください。対応します。