双精度浮点数的加法计算误差及其避免的初步方法
我一开始是在mysql的sum函数中发现计算误差，经过分析，认为可能与双精度浮点数有关
#include <stdio.h>
main()
{
char str[256];
double x=9999999999.00;
double s=0.0;
double x1=99999999.99;
double s1=0.0;
int i;
for( i = 0; i < 8192; i++ ) {
s += x;
}
printf( "%18.2lf", s );
for( i=0;i<8192;i++)
{
s1 += x1;
}
printf("%18.2lf",s1);
s1 = x1 * 8192.00;
printf("%18.2lf\n",s1);
}
分别在Windows 和 unix 下边编译运行，得到的结果是相同的
81919999991808.00 819199999918.02 819199999918.08
这说明双精度浮点数的加法在小数点后边计算存在较大误差，而乘法就好一些
我初步想到了2种解决方法，不成熟，我也没有试过其他语言，请各位指正
解决方法一：
避免用double就没问题
比如在vb里面这么写，用Currency类型
Private Sub Command1_Click()
Dim i As Integer
Dim s As Double
Dim x As Double
Dim sc As Currency
Dim xc As Currency
x = 99999999.99
s = 0
For i = 1 To 8192
s = s + x
Next i
xc = 99999999.99
sc = 0
For i = 1 To 8192
sc = sc + xc
Next i
MsgBox s & " " & sc
End Sub
结果：819199999918.017 819199999918.08
解决方法二：
加的时候不用小数点，加好以后再点
比如：
99999999.99连加的时候
用9999999999做连加，得出结果后再把小数点右移2位 
|
本类阅读TOP10