Przepełnienie w ASP Classic

Question

Zastanawiałem się, czy ktoś mógłby mi pomóc, ponieważ oślepłem na tym, co moim zdaniem jest prostą przyczyną prostego błędu.

mam ten kod:

doRound1(x1) 
    denom1 = 5 
    y1 = denom1 - x1 mod denom1 
    if y1 <> denom1 then 
    x1= x1+y1 
    end if 

    doRound1=x1 
End function 

'theCalc = 20488888888.684 
    theCalc = cDbl(11111111111) * 1.844 
    doRound1(theCalc) 

otrzymuję ten błąd

Microsoft VBScript runtime error '800a0006' 
Overflow: 'x1' 

spowodowane przez tę linię w powyższym kodzie:

y1 = denom1 - x1 mod denom1 

jakieś pomysły? Jak już mówiłem, oślepłem tego p.m.

Answer 1

Wierzę, że jeśli nie zdefiniujesz konkretnie wartości, ASP Classic przyjmuje wartość liczbową jako int (która wynosi tylko 32767). Spróbuj zmuszając swoje wartości za tęskni

Function doRound1(x1) 
    x1 = CDbl(x1) 
    denom1 = CDbl(5) 
    y1 = denom1 - x1 mod denom1 
    if y1 <> denom1 then 
    x1= x1+y1 
    end if 

    doRound1=x1 
End function 

Note: Nie rzeczywiście przetestowane.

Answer 2

Odpowiedź wydaje się być w PRB: "Overflow" with Integer Division and MOD Operator:

Visual Basic Temat pomocy dla operatora Mod i operatora podział całkowitą () wyjaśnia, że ​​jeśli pływające numery punktowe są wykorzystywane w wyrażeniu , są konwertowane na Longs jako pierwsze. Zatem, jeżeli liczba pływający punkt jest większa niż maksymalna wartość długiego (2,147,483,647) , lub mniej niż minimalnej wartości przez długi (-2,147,483,648), błąd przepełnienia nastąpi.

Odpowiedź jest dostępny również tam:

Poniższy kod demonstruje sposób wykonać dzielenie liczb całkowitych i modulo arytmetyki gdy rozmiar argumentu jest wystarczająco duża, aby spowodować overflow:

Dim dblX as Double 
Dim dblY as Double 
dblX = 2147483648    ' numerator 
dblY = 123      ' denominator 

' round off the numerator and denominator (ensure number is .0) 
dblX = INT(dblX + .5)   
dblY = INT(dblY + .5)  

' Emulate integer division 
MsgBox FIX(dblX/dblY)    
' Emulate modulo arithmetic 
MsgBox dblX - (dblY * FIX(dblX/dblY))