在计算33.78-33.58时,得到的结果是0.2000000000000003,3出现在第15位小数,但将33.78与33.58设置为20位小数时,第3位至20位小数均为0谢谢。我这边测试后,同样有相同的情况。国外和官方对此的解释为电脑数值保存的方式限制,导致在极端大和极端小的数值会出现“不准确的结果”。有关问题牵涉整个电脑世界的核心二进制的局限,而不是个别软件应用的问题。换言之,这个问题是无法解决,也基本上无需解决,
针对您的「Excel进行减法计算是差值出现错误」问题,我在这边也尝试一下:1.请问您A2、B2、C2的【储存格格式】是什么?2.请问您的EXCEL版本是什么?您可以在【文件】-【账户】里看到有关版本信息如果您有其他不清楚的地方,欢迎再咨询,我会努力为你解答。Jarl
1、储存格式为数值格式2、Microsoftoffice专业增强版2016
谢谢。我这边测试后,同样有相同的情况。国外和官方对此的解释为电脑数值保存的方式限制,导致在极端大和极端小的数值会出现“不准确的结果”。有关问题牵涉整个电脑世界的核心二进制的局限,而不是个别软件应用的问题。换言之,这个问题是无法解决,也基本上无需解决,
好的,谢谢您的!