【注意】浮点运算结果不一定正确！

drc2000再来 · 发表于 2018-7-2 18:17

现在有种过度依赖电脑运算的趋势，什么事情都电脑算一番，得出结果。但这样的结果正确么？未必！电脑的浮点运算结果不一定可靠，比如(10000^10-10)^0.1=10000这就是一个明显的错误！
这是为什么？事实上，(10000^10)^0.1=10000，10000^10-10是个整数部分非常大的数，(10000^10-10)^0.1非常靠近10000.而小数部分被四捨五入，从而得出一个错误的结果！

drc2000再来 · 发表于 2018-7-2 18:19

下面又一些例子

drc2000再来 · 发表于 2018-7-2 18:36

更高精度的计算结果

风花飘飘 · 发表于 2018-7-2 18:54

提示: 作者被禁止或删除内容自动屏蔽

		自动登录	找回密码
密码			注册

风花飘飘风花飘飘当前离线积分 22985 IP卡狗仔卡	发表于 2018-7-2 18:54 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽
风花飘飘风花飘飘当前离线积分 22985 IP卡狗仔卡
	回复支持反对使用道具举报显身卡

【注意】浮点运算结果不一定正确！

本帖子中包含更多资源

本帖子中包含更多资源