[FIXED] Keine Berechnung bei Werten unter 1

Your found a bug? Please report it here.
Antworten
no avatar
Saturo
Beiträge: 8
Registriert: 31. Dezember 2018, 15:31

[FIXED] Keine Berechnung bei Werten unter 1

16. November 2019, 21:53

Ich hatte heute dar Problem, dass der Solver für Berechnungen mit Werten kleiner 1 z.B. 10+0,5 kein Ergebnis liefert.
Für Kommawerte größer 1 wird das gerundete Ergebnis, 10+1,5=11 ausgegeben.
Desweiteren stürzt bei mir die aktuelle Dev-Version direkt nach dem Start ab.

no avatar
hampf
Beiträge: 12
Registriert: 20. April 2018, 14:47

Re: Keine Berechnung bei Werten unter 1

19. Januar 2020, 11:32

Der Solver zeigt bei Eingaben von Kommawerten immer einen (ab-)gerundeten ganzzahligen Wert an, also
X
0 = 0.5

Wenn man aber X benutzt bzw. damit weiterrechnet stimmt es:
Y
5 = f(Import(X)*10)

Somit ist das "nur" ein Anzeigeproblem.
Version 0.73.4

Benutzeravatar
gawalione
Administrator
Beiträge: 98
Registriert: 7. Oktober 2017, 00:28

Re: Keine Berechnung bei Werten unter 1

10. März 2020, 19:17

Die DEV zeigt ab nächster Version 2 Nachkomma-Stellen, wenn ein berechneter Wert kein Integer ist.
Wie schon geschrieben, rechnet der Solver intern mit double.

Antworten