Exemple de calculul cantităţii de informaţie: Să presupunem că vedem un zar, dar suntem prea departe ca să vedem ce număr a ieşit. Numărul poate avea 6 valori (1, 2, 3, 4, 5, 6). Cineva ne spune ca numărul este mai mic decât 4. Acum numărul de valori posibile este doar 3 (1, 2, 3). Cantitatea de informaţie care ne-a fost dată este deci 1 bit, deoarece incertitudinea s-a înjumatăţit: de la 6 la numai 3 valori posibile. Dacă ni s-ar fi spus că numărul ieşit este mai mare decât 4, atunci numărul variantelor rămase ar fi fost 2, iar cantitatea de informaţie primită ar fi fost log₂(6/2) respectiv 1,584962500721156 biţi.

(Asimetria acestor 2 rezultate este cauzată de numărul diferit de variante valide în fiecare caz. Pentru ca rezultatele să devină egale problema ar trebui uşor reformulată: "mai mic decât 4" şi "mai mare sau egal cu 4"; problema astfel reformulată produce rezultatul de 1 bit în ambele cazuri. O altă reformulare posibilă ar fi "mai mic sau egal cu 3" şi "mai mare decât 3".)

Un bit mai are şi semnificaţia unei celule de memorie a unui calculator care poate conţine doar una din două variante posibile: sau 0, sau 1. De aceea, cantitatea de informaţie stocată într-un bit de calculator este chiar de 1 b (1 bit). În funcţie de conotaţia sa, un bit mai poate fi reprezentat şi prin perechile "da" sau "nu", "alb" sau "negru", "adevărat" sau "fals".

Articol preluat de pe wikipedia.