浮点数加法，为嘛会有计算错误啊？ - QTCN开发网

只看楼主正序阅读楼主发表于: 2012-05-06

#include <QtCore/QCoreApplication>
#include <QFile>
#include <QString>
#include <QTextStream>
#include <QTextCodec>
int main(int argc, char *argv[])
{
QCoreApplication a(argc, argv);
QFile file("flie.txt");
int i=1;
float f[760];
f[1]=118;
for(i=1;i<=760;i++)
{
f[i+1]=f[i]+0.025;
}
if(file.open(QIODevice::WriteOnly | QIODevice::Text))
{
QTextStream stream(&file);
i=1;
while(i<=760)
{
stream<<f[i]<<"\n";
i++;
}
file.close();
}
return a.exec();
}

前面的计算结果都是正确的，结果到了后面，怎么会出现
132.549
132.574
132.599
132.624
132.649
132.674
132.699
……
这种数据啊？应该都是以5或者0结尾的啊~~~~
如果是浮点数精度引起的误差，该怎么解决呢？

分享到 淘江湖新浪 QQ微博 QQ空间开心人人豆瓣网易微博百度鲜果白社会飞信

离线hawkingyy

新手上路

只看该作者 9楼发表于: 2012-05-09

引用第7楼lejcey于2012-05-06 22:32发表的 :
你的程序还有一个问题，我不知道你是不是故意这样，你的数组是从1开始的，请转变思路，从0开始。
还有，可以不一行一行的写，先建立一个缓冲区，把结果写入内存，然后一次性写入文件，这样会快很多。数据库也是一样，用事务处理，加快速度。
你的程序我用c语言给你演示一下，请自行改为C++代码，原理一样：
.......

太谢谢lejcey君啦！！！
我再好好学学，刚接触编程不久，还有好多东东要学啊！！

离线dbzhang800

论坛版主

只看该作者 8楼发表于: 2012-05-07

引用第5楼lejcey于2012-05-06 21:04发表的 :
因为精度问题，你还要注意一个舍入误差，以免结果看起来很奇怪，如double a = (int)(3.1415926 * 1000.0) / 1000.0;

这个思路就有些问题了。

其实楼主的问题有两个方面，首先

0.025在2进制世界的浮点数中是无法精确表示的
0.025 = 2^(-6) + 2^(-7) + 2^(-10) + 2^(-11)+ ...

再就是单精度float只有6/7位的有效数字。而他直接用到了6位，而且还是累加一个本身有误差数得到的。

离线lejcey

新手上路

只看该作者 7楼发表于: 2012-05-06

你的程序还有一个问题，我不知道你是不是故意这样，你的数组是从1开始的，请转变思路，从0开始。

还有，可以不一行一行的写，先建立一个缓冲区，把结果写入内存，然后一次性写入文件，这样会快很多。数据库也是一样，用事务处理，加快速度。

你的程序我用c语言给你演示一下，请自行改为C++代码，原理一样：

复制代码

#include <stdio.h>
#include <string.h>
#include <stdlib.h>
int main(){
FILE *file = NULL;
int i = 0, count = 760;
size_t size = 0;
double *result, first = 118.0;
result = malloc(sizeof(double) * (count + 1));
*result = first;
for (i = 0; i < count; ++i){
*(result + 1 + i) = (int)((*(result + i) + 0.025) * 1000.0) /1000.0;
}
file = fopen("test.txt", "w");
for (i = 0; i < count; ++i){
fprintf(file, "%3.3f\n", *(result + i));
}
free(result);
fclose(file);
return 0;
}

运行结果：
118.000
118.025
118.050
118.075
……
……
……
136.975

离线hawkingyy

新手上路

只看该作者 6楼发表于: 2012-05-06

引用第5楼lejcey于2012-05-06 21:04发表的 :
很多吗？一个double不过8个字节，760*760*8=4620KB，不算大啊。
看你的代码是txt储存的，你可以使用二进制存储，速度会块很多，text会牵涉到很多转换的。
因为精度问题，你还要注意一个舍入误差，以免结果看起来很奇怪，如double a = (int)(3.1415926 * 1000.0) / 1000.0;

谢谢lejcey啦！
现在先用txt，方便查错，以后要全部写到MYSQL里
舍入误差这个东东不是很清楚，还得好好看看

离线lejcey

新手上路

只看该作者 5楼发表于: 2012-05-06

很多吗？一个double不过8个字节，760*760*8=4620KB，不算大啊。

看你的代码是txt储存的，你可以使用二进制存储，速度会块很多，text会牵涉到很多转换的。
因为精度问题，你还要注意一个舍入误差，以免结果看起来很奇怪，如double a = (int)(3.1415926 * 1000.0) / 1000.0;