将上述数据在单元格中输入=225-225.2,其结果显示为-0.2,当将结果的小数位增加至10位以上时,其结果不是-0.2,而是一个非常接近的小数,此外,2225-2225.2的结果也与上面不同。
若相减的两个数整数位不同,其结果正确,若只有个位,结果也正确。
烦技术人员解决。
从03,07到365均如此。您好:了解到您在使用Excel时遇到的问题。这个情况是因为Excel中采取的浮点运算引起的误差。您可以参考以下链接中的内容了解详细的信息:https://support.microsoft.com/zh-cn/help/78113/floating-point-arithmetic-may-give-inaccurate-results-in-excel#%2Fzh-cn%2Fkb%2F78113由于MicrosoftExcel是按照与存储和计算浮点数有关的IEEE754规范设计的。所以这个情况是严格遵循IEEE754规范的直接结果。在文中有提到此计算:A1:0.000123456789012345B1:1C1:=A1+B1单元格C1中的结果值将为1.00012345678901,而不是1.000123456789012345。这是由IEEE规范只存储15位精度而导致的。而Excel是按照IEEE754规范设计的。虽然它可以存储从1.79769313486232E308到2.2250738585072E-308的数字,但它只能在15位精度之内这样做。此限制是严格遵循IEEE754规范的直接结果,并且不是Excel的限制。其他电子表格程序也具有此精度。(若要能够存储上述计算,Excel将需要至少19位精度)【解决方法】文中提到Excel97和更高版本将会弥补因为将操作数转换为二进制和转换二进制操作数而产生的任何误差,以尝试纠正此问题。有关浮点数和IEEE754规范的更多信息,请您访问以下万维网网站:http://www.ieee.orghttp://stevehollasch.com/cgindex/coding/ieeefloat.html还有Microsoft知识库中相应的文章:214118如何纠正浮点运算中的舍入误差
您好,
您好:了解到您在使用Excel时遇到的问题。这个情况是因为Excel中采取的浮点运算引起的误差。您可以参考以下链接中的内容了解详细的信息:https://support.microsoft.com/zh-cn/help/78113/floating-point-arithmetic-may-give-inaccurate-results-in-excel#%2Fzh-cn%2Fkb%2F78113由于MicrosoftExcel是按照与存储和计算浮点数有关的IEEE754规范设计的。所以这个情况是严格遵循IEEE754规范的直接结果。在文中有提到此计算:A1:0.000123456789012345B1:1C1:=A1+B1单元格C1中的结果值将为1.00012345678901,而不是1.000123456789012345。这是由IEEE规范只存储15位精度而导致的。而Excel是按照IEEE754规范设计的。虽然它可以存储从1.79769313486232E308到2.2250738585072E-308的数字,但它只能在15位精度之内这样做。此限制是严格遵循IEEE754规范的直接结果,并且不是Excel的限制。其他电子表格程序也具有此精度。(若要能够存储上述计算,Excel将需要至少19位精度)【解决方法】文中提到Excel97和更高版本将会弥补因为将操作数转换为二进制和转换二进制操作数而产生的任何误差,以尝试纠正此问题。有关浮点数和IEEE754规范的更多信息,请您访问以下万维网网站:http://www.ieee.orghttp://stevehollasch.com/cgindex/coding/ieeefloat.html还有Microsoft知识库中相应的文章:214118如何纠正浮点运算中的舍入误差