Bei Berechnungen von grösseren Zahlenwerten wird in der Variable einfach "0" angezeigt.
Habe noch oft das Bedürfnis Swissgrid Koordinaten zu berechnen. Diese sind 6stellig
(600000 / 200000).
Es wäre schon hilfreich wenn man in Variablen Zahlen berechnen könnte bis 999999.
Ich weis es ist wohl das Ding mit dem Integer, das hier limitiert.
Gruess Peter
[DEV2] Überlauf in Variable
Your found a bug? Please report it here.
- Freischneider
- Beiträge: 5
- Registriert: 6. Oktober 2018, 13:47
Re: Überlauf in Variable
Der Fehler ist bekannt, siehe hier: viewtopic.php?f=1&t=51&p=95#p95
Re: Überlauf in Variable
Dies hilft in meinem Fall nicht.
Sobald die Zahl in der Variablen grösser als 65'000 wird erscheit eine 0.
Müsste jedoch Wertebis 999'999 berechnen können.
Schweizer Koordinaten haben das Format 600000 / 200000.
Anschliessend könnte ich den Wert in der Varaiblen in einem andeten Tool in WGS84 umwandeln.
Sobald die Zahl in der Variablen grösser als 65'000 wird erscheit eine 0.
Müsste jedoch Wertebis 999'999 berechnen können.
Schweizer Koordinaten haben das Format 600000 / 200000.
Anschliessend könnte ich den Wert in der Varaiblen in einem andeten Tool in WGS84 umwandeln.
Re: Überlauf in Variable
Da ich nicht weiss, an welcher Stelle du das brauchst, kannst du das nochmal in 0.73-dev2 testen?
Dort ist die Beschränkung für das Ergebnis von "Formel" und "Formel2" aufgehoben.
Dort ist die Beschränkung für das Ergebnis von "Formel" und "Formel2" aufgehoben.