Commande Numérique

uniquement en fenêtre Calcul formel

Numérique( <Expression> ): Essaye de déterminer une approximation numérique de l’expression donnée. Le nombre de décimales dépend de l’option Arrondi choisie dans le menu Options.

Numérique(3 / 2) retourne 1.5.

Numérique( <Expression>, <nombre de chiffres> ): Essaye de déterminer une approximation numérique de l’expression donnée, avec nombre de chiffres significatifs.

Numérique(sin(1), 20 ) retourne 0.84147098480789650665.

Si vous ne précisez pas un nombre suffisant de chiffres vous pouvez obtenir un résultat erroné, ceci est dû au problème d' annulation en virgule flottante (document en anglais)

Numérique(-500000000/785398163*sin(785398163/500000000)*1258025227.19^2+500000000/785398163*1258025227.19^2,10)

retourne 4096 (-256 en GGb5?) MAIS

Numérique(-500000000/785398163*sin(785398163/500000000)*1258025227.19^2+500000000/785398163*1258025227.19^2,30)

retourne 0.318309886345536696694580314215.

Voir aussi l'outil Numérique.