round_amount: Fix für falsches Runden bestimmter Werte
Gewisse Werte wie z.B. 33,675 wurden bei 2 Stellen falsch gerundet, nämlich auf 33,67 anstelle von 33,68. Bei anderen Werten hingegen funktionierte es (beispielsweise 149,175 @ 2 → 149,18).
Grund war, dass durch das Addieren von 0.5 wieder Fließkommaberechnung und damit die Ungenauigkeit der Präsentation der IEEE-Fließkommazahlen ins Spiel kommt. Das anschließende int() schneidet dann die Fließkommazahl falsch ab, ungefähr so:
- Initial: 33,675 - Linksshift um 2 Dezimalstellen, also * 100: 3367,5 - Dann + 0.5 und truncate, hier passierts: +0.5 = 3367,499999999999999999999958 (auch wenn Perl das in der Ausgabe als 3368 darstellen würde) oder so, davon int() ergibt nun mal 3367 vor anschließendem Rechtsshift um 2 Dezimalstellen
Lösung ist, bis auf das Links-/Rechtsshiften um die Dezimalstellen gar keine Fließkommaberechnung zu verwenden. Eine Variante ist, eine Stelle mehr zu shiften als man an Genauigkeit will, dann 5 zu addieren und anschließend auf das nächst kleinere Vielfache von 10 zu reduzieren (durch simples Abziehen vom Modulo 10).
Um die Logik leicht einfacher zu halten, wird das Vorzeichen anfangs ermittelt und ab dann nur noch mit dem Absolutwert der Zahl gerechnet. Das ursprüngliche Vorzeichen wird erst nach dem erneuten Rechtsshift, also ganz am Schluss der Berechnung, wieder hergestellt.
round_amount: Fix für falsches Runden bestimmter Werte
Gewisse Werte wie z.B. 33,675 wurden bei 2 Stellen falsch gerundet,
nämlich auf 33,67 anstelle von 33,68. Bei anderen Werten hingegen
funktionierte es (beispielsweise 149,175 @ 2 → 149,18).
Grund war, dass durch das Addieren von 0.5 wieder Fließkommaberechnung
und damit die Ungenauigkeit der Präsentation der IEEE-Fließkommazahlen
ins Spiel kommt. Das anschließende int() schneidet dann die
Fließkommazahl falsch ab, ungefähr so:
- Initial: 33,675
- Linksshift um 2 Dezimalstellen, also * 100: 3367,5
- Dann + 0.5 und truncate, hier passierts: +0.5 =
3367,499999999999999999999958 (auch wenn Perl das in der Ausgabe als
3368 darstellen würde) oder so, davon int() ergibt nun mal 3367 vor
anschließendem Rechtsshift um 2 Dezimalstellen
Lösung ist, bis auf das Links-/Rechtsshiften um die Dezimalstellen gar
keine Fließkommaberechnung zu verwenden. Eine Variante ist, eine Stelle
mehr zu shiften als man an Genauigkeit will, dann 5 zu addieren und
anschließend auf das nächst kleinere Vielfache von 10 zu
reduzieren (durch simples Abziehen vom Modulo 10).
Um die Logik leicht einfacher zu halten, wird das Vorzeichen anfangs
ermittelt und ab dann nur noch mit dem Absolutwert der Zahl
gerechnet. Das ursprüngliche Vorzeichen wird erst nach dem erneuten
Rechtsshift, also ganz am Schluss der Berechnung, wieder hergestellt.