摘要 探讨 MATLAB 中 函数的计算精度问题。
例1. 考虑在许多应用中出现的函数 计算
直接贴图吧:
从上图可知,MATLAB的输出为 0.999200722162641 .
然而,事实上,16位的正确结果为 0.1000000000000045e1(ISRealsoft 提供)。MATLAB输出的有效数字的错误率为 (16-3)/16 = 81.25% .
注:可参看计算机的错误计算(一百二十)。
参考文献
[1] Higham N J. Accuracy and Stability of Numerical Algorithms. 2nd ed. Philadelphia: SIAM, 2002. p.19