vpa ,,,,why this result?

1 visualización (últimos 30 días)

john el 25 de Mzo. de 2014

Editada: john el 25 de Mzo. de 2014

Hello,

for code:

vpa(33357.2537976768,4)

I got:

ans = 33388.0

but why not 33360.0?

Thank you

Walter Roberson el 25 de Mzo. de 2014

try

vpa(sym('33357.2537976768'),4)

john el 25 de Mzo. de 2014

Sorry Mr. Walter,

I got again 33388.0

:-(

Más información sobre Numbers and Precision en Help Center y File Exchange.

Find the treasures in MATLAB Central and discover how the community can help you!

Translated by