Home > Term: roundoff eroare
roundoff eroare
Eroare atunci când a introdus un număr real se rotunjeşte la un număr de maşină-reprezentate. Cele mai multe calcule în virgulă mobilă suportate de eroare roundoff. Pentru orice o operaţie în virgulă mobilă, IEEE Std 754 specifică faptul că rezultatul nu va suporta mai mult de o eroare de rotunjire.
- Μέρος του λόγου: noun
- Κλάδος/Τομέας: Υπολογιστές
- Category: Workstations
- Company: Sun
0
Δημιουργός
- Zanardi
-
(V.I.P) 61917 points - 100% positive feedback
(Romania)
