Matematik / accuracy problem..

Math::Ln(num, TableLen); <-- Her er TableLen self. 100000

16 er rigtigt

floating point resulatet er ca. 16.61

prøve at udskrive num og div på mobil for at se om det giver hints til
hvor det går galt

num = 11.512930
div = 0.693147
og det giver jo en 16.6 - så der er vel fint..

Her går det så galt:
unsigned char bits= (unsigned char)(num / div);

Når jeg udskriver bits får jeg 17..

hov: num og div ovenfor er udskrevet fra telefonen.. Så problemet ligger i divisionen jeg forstår det bare ikke?

ja mystisk den runad af i.s.f. ned

hvad giver (unsigned char)(int)(num / div) ?

og hvad giver (unsigned char)floor(num / div) ?

Lavede lige et mellemresultat:

double result = (num / div);

Printer 16.609640

Prøvede lige den cast du foreslog:

unsigned char bits = (unsigned char)(int)result;

Printer 17

Jeg har ikke en floor() på mobilen, så den kan jeg ikke teste.. Er det ikke totalt wierd?

unsigned char bits = (unsigned char)(result - 0.5);

måske ??

(det ser absurd ud, men ...)

Det virker faktisk arne... men det er da utroligt at der skal den slags hacks til - hvad tror du årsagen er til problemet?

af en eller anden mystisk grund så vælger den CPU at runde af og ikke ned
ved konvertering fra double til int

hvilket så vidt jeg ved er ukorrekt i forhold til ANSI C

Arne takker for hjælpen, smid et svar..

ok

Arne jeg ville lige høre, jeg sidder og kigger lidt docs. Det er en 16bit ARM CPU der sidder i mobilen, siger det dig noget om hvad der er galt?

Jeg har googlet en masse, men jeg kan ikke lige finde noget der gør det klokkeklart for mig, hvad der går galt..

Jeg har aldrig programmeret ARM.

Hvilken type ARM? Jeg har aldrig hørt om en 16bit, er det en der kører i thumb mode?
Hvilken compiler?
Og jeg er enig, det er et underligt resultat, den bør runde ned. Der bør være en floor funktion til compileren.

Hej Bertel, det var oxo forkert med de 16 bit.. det er en:
Processor: 32-bit RISC CPU based on ARM-9 series, 104 MHz

Jeg builder til ARMI executable.. Det er en VS.net compiler..

104 MHz, det tyder på en GSM/GPRS mobil?
Har du checket om der er en floor funktion? Der bør være én i math/cmath/math.h
Jeg har ikke brugt VC.net på en ARM...

Det er en Nokia 6600. Problemet er lidt at mobilen kører Symbian OS, der har sit eget Math library, og heri findes der ikke en floor funktion.. Jeg har set at Symbian har tilføjet et ANSI C math library af kompatibilitet årsager, jeg har dog ikke eksperimenteret med at bruge det endnu - håbede lidt jeg kunne bruge Symbians standard math bibliotek.

Jeg fik lige sagt noget vrøvl: jeg bruger gcc til at kompilere til ARM processoren, og VS.net til x86 (bruger jeg i en emulator)

Jeg har desuden lige opdaget at det kun er i emulatoren at problemet eksistere, jeg gik dumt nok ud fra at det oxo ville være et problem på telefonen - jeg har dog lige lavet et test program der giver de rigige resultater på selve telefonen.. Men i emulatorer viser det forkerte resultat.. Så meget for den emulator..

Det må vel nærmest være en fejl i det SDK jeg bruger?

En fejl i emulatoren.