发帖 回复
返回列表
  • 5015阅读
  • 0回复

QVariant::toDouble在Arm9上精度损失,怎么办? [复制链接]

 上一主题 下一主题
离线xuxinshao
禁止发言
 
只看楼主 倒序阅读 楼主  发表于: 2010-08-19
QVariant::toDouble在Arm9上精度损失,怎么办?
在Arm开发版上(2410,无硬件浮点)
double a = 4294967167；把它存在变体里面；
然后调用toDouble后变为为4.29497e+09，即变成了4294970000，精度损失了，有没有方法制定精度呀？？？？？
回复
举报
分享到 淘江湖 新浪 QQ微博 QQ空间 开心 人人 豆瓣 网易微博 百度 鲜果 白社会 飞信
发帖 回复
返回列表
快速回复
限100 字节
 
上一个 下一个