Seite 1 von 1

[DEV2] Überlauf in Variable

Verfasst: 22. Februar 2019, 19:02
von Sarah-CH
Bei Berechnungen von grösseren Zahlenwerten wird in der Variable einfach "0" angezeigt.
Habe noch oft das Bedürfnis Swissgrid Koordinaten zu berechnen. Diese sind 6stellig
(600000 / 200000).
Es wäre schon hilfreich wenn man in Variablen Zahlen berechnen könnte bis 999999.
Ich weis es ist wohl das Ding mit dem Integer, das hier limitiert.

Gruess Peter

Re: Überlauf in Variable

Verfasst: 15. März 2019, 14:11
von Freischneider
Der Fehler ist bekannt, siehe hier: viewtopic.php?f=1&t=51&p=95#p95

Re: Überlauf in Variable

Verfasst: 18. März 2019, 17:56
von Sarah-CH
Dies hilft in meinem Fall nicht.
Sobald die Zahl in der Variablen grösser als 65'000 wird erscheit eine 0.
Müsste jedoch Wertebis 999'999 berechnen können.
Schweizer Koordinaten haben das Format 600000 / 200000.
Anschliessend könnte ich den Wert in der Varaiblen in einem andeten Tool in WGS84 umwandeln.

Re: Überlauf in Variable

Verfasst: 14. Juni 2019, 20:31
von gawalione
Da ich nicht weiss, an welcher Stelle du das brauchst, kannst du das nochmal in 0.73-dev2 testen?
Dort ist die Beschränkung für das Ergebnis von "Formel" und "Formel2" aufgehoben.