2010-10-15 5 views
6

Considerate questa query:Perché la trasmissione di AVG (intger_column) come DECIMAL restituisce almeno sei posizioni decimali?

WITH Scores (score) 
    AS 
    (
     SELECT CAST(score AS INTEGER) 
     FROM (
       VALUES (0), 
        (10), 
        (10) 
      ) AS Scores (score) 
    ) 
SELECT AVG(CAST(score AS DECIMAL(19, 8))) AS precision_eight, 
     AVG(CAST(score AS DECIMAL(19, 7))) AS precision_seven, 
     AVG(CAST(score AS DECIMAL(19, 6))) AS precision_six, 
     AVG(CAST(score AS DECIMAL(19, 5))) AS precision_five, 
     AVG(CAST(score AS DECIMAL(19, 4))) AS precision_four 
    FROM Scores; 

Risultati:

precision_eight | precision_seven | precision_six | precision_five | precision_four 
    6.66666666 |  6.6666666 |  6.666666 |  6.666666 |  6.666666 

Perché ho sempre ottenere un minimo di sei cifre decimali? Questo comportamento documentato?

(sto correndo SQL Server 2008)

risposta

8

AVG di decimali restituisce sempre un "decimale (38, s) diviso per decimale (10, 0)" tipo di dati (see here)

Hai per trasmettere il risultato AVG alla precisione desiderata.

2

Stavo per pubblicare qualcosa di simile a Jappie's answer insieme a questo esempio per illustrare cosa sta succedendo dietro le quinte.

declare @a int 
set @a = 0 
declare @b int 
set @b = 10 
declare @c int 
set @c = 10 

declare @n decimal(10,0) 
set @n = 3 

select cast((@[email protected][email protected]) as decimal(38,4))/@n 
Problemi correlati