È impossibile rappresentare con precisione un numero reale, possiamo rappresentare soltanto un valore simile utilizzando i numeri razionali.
È possibile valutare la precisione della rappresentazione
Di seguito mostriamo due approcci per la rappresentazione di numeri reali.
Nella notazione a virgola fissa è stabilito a priori il numero di cifre destinate alla parte intera e alla parte fissa.
La parte intera è data dal numero di valori interi rappresentabili, mentre la parte frazionaria è data dalla precisione che si vuole ottenere nella rappresentazione.
Se consideriamo una linea dei numeri discreta, la distanza tra valori è data da
In questa notazione l'errore assoluto
Per convertire da base
Per convertire un numero razionale da base
La notazione a virgola mobile ci permettere di creare un compromesso tra la dimensione dei valori e la loro precisione permettendo di spostare la virgola. Per ottenere questo effetto si utilizza la notazione scientifica:
In notazione scientifica un numero è detto normalizzato quando:
In questa notazione l'errore relativo
Per stabilire il numero di cifre dedicate a ogni parte utilizziamo lo standard IEEE 754, secondo il quale esiste la rappresentazione a virgola mobile a singola precisione (float) e a doppia precisione (double).
Per rappresentare tali valori in modo coinciso solitamente si usa la base 16.
Quando la parte esponente è impostata tutta a
Questi valori esistono per rappresentare il risultato di un operazione che ha dato come risultato un valore non rappresentabile, cioè al di fuori dal campo di rappresentabilità o dato da un operazione senza senso (