Numeric コマンド
このコマンドは CAS View でのみ利用できます。.
CAS での書式
- Numeric( <式> )
-
与えられた式の数値近似を決定しようとする．小数点以下の桁数は，オプションメニューで選択された全体設定の丸めによって決まる．
Numeric(3 / 2) 出力： 1.5.
- Numeric( <式>, <有効数字> )
-
与えられた式の数値近似を，入力された有効数字を使って決定しようとする．
Numeric(sin(1), 20) 出力： 0.84147098480789650665.
|
十分な桁数を指定しない場合， 浮動小数点のキャンセルによって，見かけ上誤った答えが得られることがある． |
Numeric(-500000000/785398163*sin(785398163/500000000)*1258025227.19^2+500000000/785398163*1258025227.19^2,10) は，
4096 であるが，
Numeric(-500000000/785398163*sin(785398163/500000000)*1258025227.19^2+500000000/785398163*1258025227.19^2,30) は，
0.318309886345536696694580314215 を返す．
|
こちらも参照： |
