Quando metto a punto il mio software in VS C++ facendo un passo il codice che ho notato che alcuni calcoli galleggiante si mostrano come un numero con un punto finale, vale a dire:Il punto alla fine di un galleggiante suggerisce una mancanza di precisione?
1232432.
Un'operazione che ha portato a questo risultato è questo:
float result = pow(10, a * 0.1f)/b
dove a è un numero negativo circa -50 a -100 e b è più spesso intorno 1. ho letto alcuni articoli sul problema con precisione quando si tratta di galleggianti punti. La mia domanda è solo se il punto finale è un modo Visual-Studio di dirmi che la precisione è molto bassa su questo numero, cioè nel risultato della variabile. In caso contrario, cosa significa?
Questo è venuto al lavoro oggi e ricordo che c'era un problema per i numeri più grandi, quindi questo accadeva ogni volta (e con "questo" intendo quel punto finale). Ma ricordo che è successo quando c'erano sette cifre nel numero. Qui si wright che la precisione dei carri allegorici sono sette cifre:
C++ Float Division and Precision
Può questo essere la cosa e Visual Studio mi dice questo mettendo un punto alla fine?
PENSO CHE L'HO TROVATO! Dice "La mantissa è specificata come una sequenza di cifre seguita da un punto". Cosa significa la mantissa? Questo può essere diverso su un PC e quando si esegue il codice su un DSP? Perché la cosa è che ottengo risultati diversi e l'unica cosa che mi sembra strana è questa cosa del periodo, dal momento che non so cosa significhi.
http://msdn.microsoft.com/en-us/library/tfh6f0w2(v=vs.71).aspx
FYI '' 1.' e .1' sono validi doppie letterali in C++ (almeno gcc) – Joe
ottengo quello .1 è un float/double valido ma perché non stampa lo stesso trailing. per ogni galleggiante? Se un doppio è zero, stampa 0,00000 ma solo 0 mai. Perché è il punto finale solo un paio di volte, deve essere qualcosa di speciale che si verifica per alcuni grandi numeri. –
@ThomasJohansson: Avrai bisogno di parlare con il team VS, suppongo. Il punto è che non ha assolutamente nulla a che fare con la precisione di un galleggiante. Qui, dovresti sapere [questa roba] (http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html). –