[FIXED] Keine Berechnung bei Werten unter 1

Your found a bug? Please report it here.
Antworten
no avatar
Saturo
Beiträge: 11
Registriert: 31. Dezember 2018, 15:31

[FIXED] Keine Berechnung bei Werten unter 1

16. November 2019, 21:53

Ich hatte heute dar Problem, dass der Solver für Berechnungen mit Werten kleiner 1 z.B. 10+0,5 kein Ergebnis liefert.
Für Kommawerte größer 1 wird das gerundete Ergebnis, 10+1,5=11 ausgegeben.
Desweiteren stürzt bei mir die aktuelle Dev-Version direkt nach dem Start ab.

no avatar
hampf
Beiträge: 12
Registriert: 20. April 2018, 14:47

Re: Keine Berechnung bei Werten unter 1

19. Januar 2020, 11:32

Der Solver zeigt bei Eingaben von Kommawerten immer einen (ab-)gerundeten ganzzahligen Wert an, also
X
0 = 0.5

Wenn man aber X benutzt bzw. damit weiterrechnet stimmt es:
Y
5 = f(Import(X)*10)

Somit ist das "nur" ein Anzeigeproblem.
Version 0.73.4

Benutzeravatar
gawalione
Administrator
Beiträge: 107
Registriert: 7. Oktober 2017, 00:28

Re: Keine Berechnung bei Werten unter 1

10. März 2020, 19:17

Die DEV zeigt ab nächster Version 2 Nachkomma-Stellen, wenn ein berechneter Wert kein Integer ist.
Wie schon geschrieben, rechnet der Solver intern mit double.

no avatar
Nicolai
Beiträge: 5
Registriert: 24. Juni 2020, 14:48

Re: Keine Berechnung bei Werten unter 1

24. Juni 2020, 14:56

gawalione hat geschrieben:
10. März 2020, 19:17
Die DEV zeigt ab nächster Version 2 Nachkomma-Stellen, wenn ein berechneter Wert kein Integer ist.
Wie schon geschrieben, rechnet der Solver intern mit double.
Ich habe mich heute gewundert, als die Aufgabe war 0,5 Kilometer von 9,5 Kilometer abzuziehen. Der Solver hat das einfach nicht gemacht. Ich hab erstmal ne Weile gebraucht bis ich geblickt habe, dass er die 0,5 nicht mag. Also bei mir tritt das Problem immer noch auf. Habe es in der neusten DEV und der neusten Stable versucht. Ich musste dann zur Problemlösung den Wert händisch eintragen.

Antworten