L’immense majorité des données (texte, son, image, vidéo, etc.) sont stockées et manipulées sous forme numérique, c’est-à-dire à l’aide de nombres entiers qui sont convertis en une succession de bits ( des 0 et des 1). La conversion depuis le monde analogique continu vers ces représentations numériques discrètes est décrite par la théorie élaborée par Claude Shannon (1916-2001), le père fondateur de la théorie de l’information.

Plan de l’article :
1) Données numériques et codage
2) Codage et décodage (exemple d’une image; codage uniforme; logarithme et codage uniforme; codage à longueur variable; codage préfixe et décodage, codes et arbres)
3) La borne de Shannon ( code de longueur minimale et modélisation aléatoire; fréquences empiriques; entropie; nombre de bits moyen d’une source; borne de Shannon pour le codage; transformation de l’information)
Conclusion
Glossaire