PDA

Archiv verlassen und diese Seite im Standarddesign anzeigen : Verfälschte Single- Werte



Baby2b
30.05.2008, 13:21
Hallo,

ich habe hier ein Problem mit dem ich mich schon öfters rumgeschlagen habe und es nun endlich mal lösen will (aber alleine nicht schaffe):

Dim I as Single
Input I
Print I

Wenn ich hier für I z. B. 52.123456 eingebe gibt Bascom mir leider die letzte Kommastelle falsch raus 2. B 52.123457899 oder ähnlich. Bei meiner jetzigen Anwendung brauche ich aber die letzte Kommastelle ganz genau. Wenn ich I als Double dimme gehts, die lassen sich nur leider nicht ins Eprom schreiben (auch hier weis ich nicht warum das nicht geht) und außerdem kosten Doubles viel zu viel Speicherplatz, da macht mein Mega 32 gleich schlapp. Bestimmt habt Ihr wie schon so oft einen hilfreichen Tipp für mich.

Gruß

Andreas

lorcan
30.05.2008, 13:28
Das Problem ist ein numerisches, deine Variable hat nur eine gewisse Anzahl an Stellen, da wirst du um ein Double bzw. eine größere Variable nicht rumkommen.

Baby2b
30.05.2008, 13:41
Ja, Double wäre schön, kann ich aber nicht ins Eprom speichern (weis auch nicht warum das nicht geht, weist Du's?) außerdem benötigen die zuviel speicherplatz. Gibt es noch andere Möglichkeiten?

Gruß

Andreas