Int() und Fix() geben ab (2^31) ein falschen Ergebnis
CInt() gibt ab (2^15) einen Overflow Error
Wäre natürlich gut zu korrigieren, aber zumindest sollte es in die Doku.
Skript zur Prüfung:
Code:
Dim a#, k#, x#, y#, z#
k = 32760
For i = 0 To 20
a = k + i
x = Fix(a) 'nur bis 2.147.483.647 = &H7FFFFFFF = (2^31)-1 // dann falsches Ergebnis
y = Int(a) 'nur bis 2.147.483.647 = &H7FFFFFFF = (2^31)-1 // dann falsches Ergebnis
z = CInt(a) 'nur bis: 32.767 = &H7FFF = (2^15)-1 // dann Overflow Error
Print a, ":", "Fix(a)=", x, "Int(a)=", y, "CInt(a)=", z
Next
Anmelden
Registrieren
FAQ
Suche
