Difference Subtracting Double Precision from Single Precision
Mostrar comentarios más antiguos
Can you explain the results for the lines below
a=99999999; b=single(a); b-a
1
a=20000001; b=single(a); b-a
-1
Respuesta aceptada
Más respuestas (0)
Categorías
Más información sobre Data Type Conversion en Centro de ayuda y File Exchange.
Community Treasure Hunt
Find the treasures in MATLAB Central and discover how the community can help you!
Start Hunting!