Why 0.6+0.3+0.1-1 is -1.11022302462516e-16, not 0 ? why?? A serials bug??

7 visualizaciones (últimos 30 días)
denny
denny el 20 de Jun. de 2018
Comentada: denny el 9 de Sept. de 2019
0.6+0.3+0.1-1
  1 comentario
denny
denny el 9 de Sept. de 2019
This is not a bug, this is bucase the numeric calculation in a computer.
You can use a fraction to calculate it.

Iniciar sesión para comentar.

Iniciar sesión para responder a esta pregunta.

Respuestas (0)

Categorías

Más información sobre MATLAB 快速入门 en Help Center y File Exchange.

Etiquetas

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!