python,为什么0.1+0.2大于0.3？-摩杜云开发者社区

python,为什么0.1+0.2大于0.3？

jA828xJXteDR 2023年11月19日 32 0

这牵涉到float32在计算机里的存储。原来，十进制小数，要用32位的二进制整数来表示。参考这个图。其实关键要看最后一位是0还是1？判断的原则是：看用哪个，距离实际值近。我已经把这个搞懂了。参考：IEEE-754 Floating Point Converter

我已经写代码计算任何一个正实数的 IEEE754的计算机表示了。

python,为什么0.1+0.2大于0.3？_IEEE754

最后一次编辑于 2023年11月19日 0

暂无评论

推荐阅读

值比较

CAROyoyNhr19 2023年11月24日 20 0 0 取整四舍五入十进制十进制取整四舍五入

6DMaaPzJglxt 2023年12月05日 20 0 0 ci #include 十进制 ci #include 十进制

CiIZfyyIq65u 2023年11月30日 96 0 0 十六进制十六进制开发语言十进制 c++进制进制开发语言十进制 c++

Feeln6qFyXuE 2023年12月02日 26 0 0 十六进制十六进制 macos 开发语言十进制 objective-c macos 开发语言十进制 objective-c

q2rViTiemRgY 2023年11月02日 39 0 0 十六进制十六进制算法进制算法进制十进制十进制

lus35PxzcpZF 2023年12月08日 28 0 0 Camera 默认值 ISP isp 默认值复用 Camera 十进制十进制复用

jA828xJXteDR 2023年11月19日 33 0 0 大于大于 float32 float32 计算机存储计算机存储十进制 IEEE754 IEEE754 十进制

jA828xJXteDR

作者其他文章更多

python,为什么0.1+0.2大于0.3？

2023-11-19

2023-11-02

as设置java home

2023-11-02

2023-11-02

2023-11-02

2023-11-02

2023-11-02

2023-11-02