<div dir="ltr">actually, with bc program in Linux, I get <div><br><div>9151064444577189 * 17 = 155568095557812213<br></div><div><br></div><div style>and obvious this precise. and with scilab, I get</div><div style><br></div>
<div style><div>-->format (25);</div><div> </div><div>-->11 / 17</div><div> ans  =</div><div> </div><div>    0.6470588235294117973595</div><div><br></div><div style>so the windows calculator is correct.</div></div></div>
</div><div class="gmail_extra"><br><br><div class="gmail_quote">On Thu, Apr 25, 2013 at 3:49 PM, Dang, Christophe <span dir="ltr"><<a href="mailto:Christophe.Dang@sidel.com" target="_blank">Christophe.Dang@sidel.com</a>></span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Hello again<br>
<br>
De la part de Renzo Zini<br>
Envoyé : mercredi 24 avril 2013 15:58<br>
<div class="im"><br>
> with the Windows calculator the result is<br>
><br>
> 9151064444577189,6470588235294118<br>
<br>
</div>another point is: does the Windows calculator compute the right value?<br>
<br>
You can have a greater precision by performing two divisions:<br>
<br>
(a + b)/c = a/c + b/c<br>
<br>
each having no underflow.<br>
<br>
then :<br>
55568095557812224 = 55568095557812200 + 24<br>
<br>
-->155568095557812200/17<br>
 ans  =<br>
<br>
    9151064444577188.<br>
<br>
-->24/17<br>
 ans  =<br>
<br>
    1.4117647058823530326066<br>
<br>
so we can guess that<br>
55568095557812224/17 = 9151064444577189.4117647...<br>
<br>
so the Windows calculator gives a result, but it is false at the first<br>
decimal...<br>
<br>
Now: do you really need to have a precision of more than 16 digits?<br>
<br>
This might be the case, especially if the error propagates.<br>
<br>
In my field, I'm usually happy with 4 digits ;-)<br>
<span class="HOEnZb"><font color="#888888"><br>
--<br>
Christophe Dang Ngoc Chan<br>
Mechanical calculation engineer<br>
This e-mail may contain confidential and/or privileged information. If you are not the intended recipient (or have received this e-mail in error), please notify the sender immediately and destroy this e-mail. Any unauthorized copying, disclosure or distribution of the material in this e-mail is strictly forbidden.<br>

<br>
<br>
_______________________________________________<br>
users mailing list<br>
<a href="mailto:users@lists.scilab.org">users@lists.scilab.org</a><br>
<a href="http://lists.scilab.org/mailman/listinfo/users" target="_blank">http://lists.scilab.org/mailman/listinfo/users</a><br>
</font></span></blockquote></div><br></div>