BUG in dec2hex
2 visualizaciones (últimos 30 días)
Mostrar comentarios más antiguos
1 comentario
Stephen23
el 4 de Sept. de 2023
Editada: Stephen23
el 4 de Sept. de 2023
You do not explain what the problem is.
Note that your last example uses DOUBLE class and not UINT64, which clearly has a different bit pattern:
u = bitxor(uint64(0xFF000000),0xFFFFFFFFFFFFFFFF)
dec2hex(u)
d = double(u) % The same value you entered by hand
dec2hex(d)
Respuestas (0)
Ver también
Categorías
Más información sobre Numbers and Precision en Help Center y File Exchange.
Community Treasure Hunt
Find the treasures in MATLAB Central and discover how the community can help you!
Start Hunting!