primary school question!

14 visualizaciones (últimos 30 días)
Wenjuan
Wenjuan el 28 de Nov. de 2020
Respondida: Image Analyst el 28 de Nov. de 2020
well, a silly question
why 0.07*400 is not equal to 28?
see screenshot;

Iniciar sesión para responder a esta pregunta.

Respuestas (1)

Image Analyst
Image Analyst el 28 de Nov. de 2020
Truncation error due to double's only using 64 bits instead of an infinite number of bits. It will be off a very small amount, eps(28). See the FAQ for a thorough discussion:
https://matlab.fandom.com/wiki/FAQ#Why_is_0.3_-_0.2_-_0.1_.28or_similar.29_not_equal_to_zero.3F

Categorías

Más información sobre MATLAB en Help Center y File Exchange.

Etiquetas

Productos


Versión

R2020a

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by