noch ne seltsame Rechenfunktion - ich krieg die Krise!

[dl1akp]

Hallo Leute,

beim ausführen verschiedener Rechenoperationen in Bascom bin ich wieder auf etwas seltsames gestoßen
Diemal habe ich den Controller aber vorher über $regfile definiert:

Folgender Code

$sim
$hwstack = 64
$swstack = 64
$framesize = 64

$regfile = "m8def.dat"
$crystal = 3686411

Dim A As Single
Dim B As Single

A = 35.5634
B = A * 0.6

Warum kommt hier nicht, siw es soll 21.33804 heraus??
Das kann doch nicht sein!!!

Bitte helft mir auf die Sprünge!
MfG, ANdreas

[for_ro]

Also bei mir kommt da
21.338039396, was um 0,000000604 neben dem richtigen Ergebnis liegt.
Halte ich für ok.

Gruß

Rolf

[linux_80]

Hi,

evtl. solltest Du mal in der Bascom-Hilfe nach den Zahlenformaten sehen, und deren Genauigkeit, dann wirds villeicht etwas klarer.
DH. wenn Du statt Single Double verwendest könnte es etwas besser werden.

http://avrhelp.mcselec.com/language_fundamentals.htm -> Elementary Data Types

[Rofo88]

Nehme mal den Calc von Windoofs. Da kommt genau das selbe raus.

[zerush]

Nehme mal den Calc von Windoofs. Da kommt genau das selbe raus.

Also ich glaube, das ist ja genau das Problem, das er bei seinem Programm NICHT diesen Wert erhält...

@dl1akp:
Aber was kommt denn bei dir raus? Wäre vielleicht ja ganz hilfeich!

[peterfido]

Wäre interessamt zu wissen, was denn bei Andreas überhaupt rauskommt...