Page 1 of 1

[DEV2] Überlauf in Variable

Posted: 22. February 2019, 19:02
by Sarah-CH
Bei Berechnungen von grösseren Zahlenwerten wird in der Variable einfach "0" angezeigt.
Habe noch oft das Bedürfnis Swissgrid Koordinaten zu berechnen. Diese sind 6stellig
(600000 / 200000).
Es wäre schon hilfreich wenn man in Variablen Zahlen berechnen könnte bis 999999.
Ich weis es ist wohl das Ding mit dem Integer, das hier limitiert.

Gruess Peter

Re: Überlauf in Variable

Posted: 15. March 2019, 14:11
by Freischneider
Der Fehler ist bekannt, siehe hier: viewtopic.php?f=1&t=51&p=95#p95

Re: Überlauf in Variable

Posted: 18. March 2019, 17:56
by Sarah-CH
Dies hilft in meinem Fall nicht.
Sobald die Zahl in der Variablen grösser als 65'000 wird erscheit eine 0.
Müsste jedoch Wertebis 999'999 berechnen können.
Schweizer Koordinaten haben das Format 600000 / 200000.
Anschliessend könnte ich den Wert in der Varaiblen in einem andeten Tool in WGS84 umwandeln.

Re: Überlauf in Variable

Posted: 14. June 2019, 20:31
by gawalione
Da ich nicht weiss, an welcher Stelle du das brauchst, kannst du das nochmal in 0.73-dev2 testen?
Dort ist die Beschränkung für das Ergebnis von "Formel" und "Formel2" aufgehoben.