Calculation with integer arithmetic (long)
Enhanced timing resolution of fixed-step simulations by applying integer arithmetic to sample hit computations
Verbesserte Zeitauflösung bei Simulationen mit fester Schrittweite durch Anwendung einer Ganzzahlarithmetik auf Sample-Hit-Berechnungen
The system defined in Claim 6 further comprising at least one source of the plurality of vectors of color data coupled to the input, and wherein the color conversion subsystem further comprises a forward transform that performs color space conversion that is reversible in integer arithmetic.
System nach Anspruch 6, das ferner wenigstens eine Quelle der mehreren Farbdatenvektoren umfasst, die mit dem Eingang gekoppelt ist, und bei dem das Farbumsetzungs-Untersystem ferner eine Vorwärtstransformation umfasst, die eine Farbraumumsetzung ausführt, die in Ganzzahlarithmetik reversibel ist.
GMP is better, but only slightly (as expected, since the version of PARI built for Sage uses GMP for integer arithmetic).
Als nächstes messen wir die Laufzeit der Potenzierung unter Verwendung des nativen Sage Ganzzahl-Typs, besser (wie erwartet, da die für Sage verwendete PARI Version GMP für Ganzzahlarithmetik nutzt).
This is due to the fact that we only do integer arithmetic.
During an integer arithmetic operation, an attempt was made to divide by zero.
So I needed a little library to rephrase integer arithmetic in terms of 'successive operations'.
fast calculation: the calculation can be performed with a few integer arithmetic instructions.
Software according to claim 7, characterized in that said discrete values are calculated based on integer arithmetic.
Software nach Anspruch 7, dadurch gekennzeichnet , dass die diskreten Werte basierend auf ganzzahliger Arithmetik berechnet werden.
The code for each of these integer arithmetic operations is followed by additional code that verifies that the result is within the supported range.
Dazu wird ihnen zusätzlicher Code hinzugefügt, der sicherstellt, dass das Ergebnis innerhalb des unterstützten Bereichs liegt.
Apparatus for performing multiprecision integer arithmetic
When calculating in an AIO module, a 32-bit Integer Arithmetic is used.
These instructions include 128-bit SIMD integer arithmetic and 128-bit SIMD double-precision floating-point operations.