Accueil > Term: roundoff error
roundoff error
The error introduced when a real number is rounded to a machine-representable number. Most floating-point calculations incur roundoff error. For any one floating-point operation, IEEE Std 754 specifies that the result shall not incur more than one rounding error.
- Partie du discours : noun
- Secteur d’activité/Domaine : Informatique
- Catégorie : Stations de travail
- Company: Sun
0
Créateur
- Shemayah
- 100% positive feedback