Seite 1 von 1

[FIXED] Keine Berechnung bei Werten unter 1

Verfasst: 16. November 2019, 21:53
von Saturo
Ich hatte heute dar Problem, dass der Solver für Berechnungen mit Werten kleiner 1 z.B. 10+0,5 kein Ergebnis liefert.
Für Kommawerte größer 1 wird das gerundete Ergebnis, 10+1,5=11 ausgegeben.
Desweiteren stürzt bei mir die aktuelle Dev-Version direkt nach dem Start ab.

Re: Keine Berechnung bei Werten unter 1

Verfasst: 19. Januar 2020, 11:32
von hampf
Der Solver zeigt bei Eingaben von Kommawerten immer einen (ab-)gerundeten ganzzahligen Wert an, also
X
0 = 0.5

Wenn man aber X benutzt bzw. damit weiterrechnet stimmt es:
Y
5 = f(Import(X)*10)

Somit ist das "nur" ein Anzeigeproblem.
Version 0.73.4

Re: Keine Berechnung bei Werten unter 1

Verfasst: 10. März 2020, 19:17
von gawalione
Die DEV zeigt ab nächster Version 2 Nachkomma-Stellen, wenn ein berechneter Wert kein Integer ist.
Wie schon geschrieben, rechnet der Solver intern mit double.

Re: Keine Berechnung bei Werten unter 1

Verfasst: 24. Juni 2020, 14:56
von Nicolai
gawalione hat geschrieben:
10. März 2020, 19:17
Die DEV zeigt ab nächster Version 2 Nachkomma-Stellen, wenn ein berechneter Wert kein Integer ist.
Wie schon geschrieben, rechnet der Solver intern mit double.
Ich habe mich heute gewundert, als die Aufgabe war 0,5 Kilometer von 9,5 Kilometer abzuziehen. Der Solver hat das einfach nicht gemacht. Ich hab erstmal ne Weile gebraucht bis ich geblickt habe, dass er die 0,5 nicht mag. Also bei mir tritt das Problem immer noch auf. Habe es in der neusten DEV und der neusten Stable versucht. Ich musste dann zur Problemlösung den Wert händisch eintragen.