Überlauf in Variable

Your found a bug? Please report it here.
no avatar
Sarah-CH
Posts: 2
Joined: 22. February 2019, 18:50

Überlauf in Variable

22. February 2019, 19:02

Bei Berechnungen von grösseren Zahlenwerten wird in der Variable einfach "0" angezeigt.
Habe noch oft das Bedürfnis Swissgrid Koordinaten zu berechnen. Diese sind 6stellig
(600000 / 200000).
Es wäre schon hilfreich wenn man in Variablen Zahlen berechnen könnte bis 999999.
Ich weis es ist wohl das Ding mit dem Integer, das hier limitiert.

Gruess Peter

no avatar
Freischneider
Posts: 5
Joined: 6. October 2018, 13:47

Re: Überlauf in Variable

15. March 2019, 14:11

Der Fehler ist bekannt, siehe hier: viewtopic.php?f=1&t=51&p=95#p95

no avatar
Sarah-CH
Posts: 2
Joined: 22. February 2019, 18:50

Re: Überlauf in Variable

18. March 2019, 17:56

Dies hilft in meinem Fall nicht.
Sobald die Zahl in der Variablen grösser als 65'000 wird erscheit eine 0.
Müsste jedoch Wertebis 999'999 berechnen können.
Schweizer Koordinaten haben das Format 600000 / 200000.
Anschliessend könnte ich den Wert in der Varaiblen in einem andeten Tool in WGS84 umwandeln.

User avatar
gawalione
Administrator
Posts: 65
Joined: 7. October 2017, 00:28

Re: Überlauf in Variable

14. June 2019, 20:31

Da ich nicht weiss, an welcher Stelle du das brauchst, kannst du das nochmal in 0.73-dev2 testen?
Dort ist die Beschränkung für das Ergebnis von "Formel" und "Formel2" aufgehoben.

Post Reply