如何解决GNU Octave 失败 hex2dec
遇到一些 HEX 到 DEC conversions 的失败
b = '0x170d21b9'
bdec = hex2dec(b)
返回
bdec = NaN
但应该是386736569
上面例子中如何将十六进制数转换为整数？
解决方法
不要使用 0x。这是在某些语言中用于表示数字是十六进制的符号，但实际上不是数字的一部分。 Octave 的 hex2dec 函数不使用它。输入 b = '170d21b9'，你会得到 bdec = 386736569。
版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 dio@foxmail.com 举报，一经查实，本站将立刻删除。
