mysql decimal nøjagtighed

REAL/DOUBLE opererer med ca. 15 cifres precision, da de er 64 bit floating point.

DECIMAL/NUMERIC kan bruge op til 65 cifre, men ar altsaa fixed point.

Laes evt. http://dev.mysql.com/doc/refman/5.1/en/precision-math.html

jeg sider på de sider men hvordan kan jeg bruge det.

hvis jeg gerne vil have f.eks. 20 decimaler på forespøgslen:

select sum(a/b) as r from t

altså så jeg får r men 20 decimaler?

brug typen DECIMAL(30,20)

ja, men hvordan. disse resultater skal ikke sættes ind noget sted jeg vil bare gerne have udskrevet et resultat med høj nøjagtighed.

jeg vil meget gerne have et eksempel på hvordan det skal gøres.

Hvis felterne a og b i t har den type, saa boer den query returnere et praecist resultat som oensket.

Hvis det her skal virke på heltal så skal man skrive:

select CONVERT(sum(CONVERT(a, DECIMAL(65,30))/CONVERT(b, DECIMAL(65,30))), DECIMAL(65,30)) as r from t

det giver 30 decimaler men giver en helvedes forespørgsel ved større beregninger. er der en måde at øge korrekstheden til mere end 30 decimaler?

Jeg tror ikke at den yderste CONVERT er noedvendig.

Hvilken type er a og b i databasen? Hvis ikke de er en type som DECIMAL(65,30), saa er der jo ikke nogen pointe i at lave en hoej praecision udregning.

Du kan frit fordele cifre foran og bagved decimal punktum f.eks. DECIMAL(65,30), DECIMAL(65,40), DECIMAL(65,50) etc..

DECIMAL(65,n) kan max have n = 30 desværre

Tja - saa er der en begraensning der.

Hvilken type er a og b i databasen?

Tid at få afsluttet her ?

(og et svar fra mig)