python精度问题?
PHP中文网
PHP中文网 2017-04-17 14:32:00
[Python讨论组]
Python 2.7.9 (default, Dec 10 2014, 12:28:03) [MSC v.1500 64 bit (AMD64)] on win32
>>> print '%.100f' % (9999.0/10000)
0.9999000000000000110134124042815528810024261474609375000000000000000000000000000000000000000000000000

从原理上阐述下为什么产生这样的误差?

PHP中文网
PHP中文网

认证高级PHP讲师

全部回复(1)
高洛峰

可以参考IEEE的浮点数标准

浮点数在计算机中的存储往往采取这个标准, 其只能精确表示2^x的倍数, 而除此之外的其它数字只能尽量逼近.因此使用浮点数是会有误差的.

热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号