• 4581阅读
  • 1回复

怎么把一个小数部分很多的数只保留两位小数,再赋值给float,避免溢出 [复制链接]

上一主题 下一主题
离线sniper2013
 

只看楼主 倒序阅读 楼主  发表于: 2013-09-25
用一个计算公式给float赋值。
float value=(float)((-1)*6+((float)b*0.045)-((float)b)*((float)b)*3.8*pow(10,-5));
如果这样的话,有时候小数部分会很多,float就会溢出
用什么方法把数值只保留两位小数再赋给float,从而避免溢出。
离线XChinux

只看该作者 1楼 发表于: 2013-09-27
你搞成double,然后QString::number(...)转变成字符串,然后再toFloat()
二笔 openSUSE Vim N9 BB10 XChinux@163.com 网易博客 腾讯微博
承接C++/Qt、Qt UI界面、PHP及预算报销系统开发业务
快速回复
限100 字节
 
上一个 下一个