[Enseignement] Commande floor

[Samuel Gougeon]

Bonjour,

Le 14/01/2014 10:35, Raymond Moché a écrit :
> Quelqu’un peut-il nous renseigner ?
> .6*9+.6 donne ans=6
Les arrondis numériques mènent à l'écart à 6
-->.6*9+.6 - 6
  ans  =
   - 8.882D-16

-->%eps
  %eps  =
     2.220D-16

Comme le résidu est <0, floor() arrondit en dessous. Comme il est > %eps 
en valeur absolue,
nearfloat(..) restera impuissante à contourner le problème.

Ce sont les joies du calcul numérique... Le calcul formel a les siennes.

Samuel