- 関数電卓・グラフ電卓総合 Part3
267 :名無しさん@3周年[sage]:2019/02/15(金) 21:38:54.84 ID:v/Erp1dm - >>266
Windows98以降の関数電卓アプリは任意精度演算ライブラリを使ってるから そこらの実機関数電卓よりよほど高精度(bignumと浮動小数は32桁)
| - 関数電卓・グラフ電卓総合 Part3
268 :名無しさん@3周年[sage]:2019/02/15(金) 21:45:27.17 ID:v/Erp1dm - Excelは内部はIEEE754形式の倍精度浮動小数で
科学技術計算や金融計算には慎重にならないといけない
|
|