2012-04-24 8 views

risposta

12

Il problema è probabilmente nel modo in cui vengono visualizzati questi valori.

QString s("9338.712001"); 
bool ok = false; 

double a = 9338.712001; 
double b = s.toDouble(&ok); 
double c = 1/3.0; 

qDebug() << "a: " << a; 
qdebug() << "b: " << b; 

qDebug() << "a: " << QString("%1").arg(a, 0, 'g', 13) 
qDebug() << "b: " << QString("%1").arg(b, 0, 'e', 13); 

qDebug() << "c: " << QString("%1").arg(c, 0, 'g', 30); 

risultato:

a: 9338.71 
b: 9338.71 
a: "9338.712001" 
b: "9.3387120010000e+03" 
c: "0.333333333333333314829616256247" 

Ma in ogni modo, forse ora è un buon momento per leggere questa: What Every Computer Scientist Should Know About Floating-Point Arithmetic

+0

Credo che sia stato il mio problema. Grazie! – user446836