Seite 1 von 1

Ergebnis Überlauf...was tun ?

Verfasst: 6. Oktober 2018, 13:55
von Freischneider
Ich habe einen Fehler bei zu großer Summe, über 999.
Beispiel:
N.49° 05.895 + A
A=405
Ich denke es liegt daran damit die Zahl über 999 hinaus geht und dadurch die 05. zu 06 wird. Leider geht das nicht automatisch. Was kann ich hier tun ?

Das gleiche hatte ich auch schon bei minus.

Re: Ergebnis Überlauf...was tun ?

Verfasst: 8. Oktober 2018, 08:36
von gawalione
Das kann der Solver aktuell nicht. Ich wüsste gerade auch keinen Weg ausser Handrechnung, um das zu umgehen.
Habe es aber mal als Testcase aufgenommen.

Re: Ergebnis Überlauf...was tun ?

Verfasst: 8. Oktober 2018, 17:36
von Freischneider
Danke, ist trotzdem ein geniales Addon :)

Re: Ergebnis Überlauf...was tun ?

Verfasst: 30. Dezember 2018, 00:18
von chrisly
ja, das finde ich auch etwas ärgerlich - kann doch nicht so schwer sein...

Re: Ergebnis Überlauf...was tun ?

Verfasst: 6. Januar 2019, 20:30
von gawalione
Der Solver kann nicht entscheiden, ob er die Formel als "N.49° (05.895 + A)" oder als "N.49° (05).(895 + A)" parsen soll.
Aktuell ist es so, dass er die zweite Variante nutzt, was zu dem Überlauf führt. Möglicherweise akzeptiert er es, wenn
man wie im ersten Fall die Klammern hinzufügt.

Re: Ergebnis Überlauf...was tun ?

Verfasst: 15. März 2019, 14:09
von Freischneider
wie bereits per mail geschrieben. Eine Mögliche Lösung die bei Überlauf automatisch ablaufen könnte.

Bei Überlauf

Formel in Solver: N48° 55.485 + A
A entspüricht in diesem Fall 700. Das führt zu dem Fehler Übelrauf (bereits bekannt)
Lösung:
Wenn der Fehler kommt, muss der User hinter dem Punkt ein Sonderzeichen schreiben (ZB. ?, ! oder $) Muss man halt noch festlegen welches.
Dann würde die Formel so aussehen: N48° 55.$485 + A
Dadurch wird eine Aktion im Hintergrund bei der Berechnung ausgelöst.
1. Der Punkt und das Sonderzeichen werden entfernt ( N48° 55485 + A )
2. Dann wird die Berechnung durchgeführt, Ergebnis würde dann so aussehen (Ergebnis: N48° 56185 )
3. Nun wird der Punkt wieder gesetzt und das Ganze als Ergebnis ausgegeben ( N48° 56.185 )

Mit dieser Lösung würde der Fehler nach dem setzen des Sonderzeichen nicht mehr auftauchen.

Re: Ergebnis Überlauf...was tun ?

Verfasst: 19. Juni 2019, 21:02
von gawalione
Das ganze sollte nun mit .? aus dem DEV3 funktionieren.