It's a bug?
1 visualización (últimos 30 días)
Mostrar comentarios más antiguos
Emiliano Rosso
el 29 de Nov. de 2018
Editada: madhan ravi
el 29 de Nov. de 2018
I discovered a potential bug and I want to report it:
Matlab R2018a windows 10
alfa=-0.0052+(61-1)*0.0001;
reasoning this is 0.0060-0.0052=0.0008=8e-04
so:
alfa2=8e-04;
isequal(alfa,alfa2)
ans
0
if you open alfa variable you can see:
8.000000000000004e-04
in fact if you round alfa:
alfa3=round(alfa,10);
isequal(alfa2,alfa3)
ans
1
That's all Thanks
1 comentario
Bruno Luong
el 29 de Nov. de 2018
Welcome to the club, you are one more person who confuses about finite precision floating point calculation.
Respuesta aceptada
madhan ravi
el 29 de Nov. de 2018
Editada: madhan ravi
el 29 de Nov. de 2018
It‘s called floating point comparison just search with the tag floating-point in this forum you will find lot of reasons
abs(alfa-alfa2)<1e-04
0 comentarios
Más respuestas (0)
Ver también
Categorías
Más información sobre Logical en Help Center y File Exchange.
Productos
Community Treasure Hunt
Find the treasures in MATLAB Central and discover how the community can help you!
Start Hunting!