BUG in dec2hex

XX
4 Sept. 2023
0 Respuestas
Actualizado a las 4 Sept. 2023
9 Visualizaciones (30 días)

0 votos

1 comentario
Mostrar -1 comentarios más antiguos Ocultar -1 comentarios más antiguos

Stephen23
Stephen23 el 4 de Sept. de 2023
Editada: Stephen23 el 4 de Sept. de 2023
Ran in:
Ran in:
You do not explain what the problem is.
Note that your last example uses DOUBLE class and not UINT64, which clearly has a different bit pattern:
u = bitxor(uint64(0xFF000000),0xFFFFFFFFFFFFFFFF)
u = uint64 18446744069431361535
dec2hex(u)
ans = 'FFFFFFFF00FFFFFF'
d = double(u) % The same value you entered by hand
d = 1.8447e+19
dec2hex(d)
ans = 'FFFFFFFF01000000'

Iniciar sesión para comentar.

Iniciar sesión para responder a esta pregunta.

Respuestas (0)

Categorías

Más información sobre Data Type Conversion en Centro de ayuda y File Exchange.

Etiquetas

Preguntada:

XX
XX
el 4 de Sept. de 2023

Editada:

Stephen23
Stephen23
el 4 de Sept. de 2023

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by