La récurrence des difficultés d’apprentissage que les mathématiques suscitent oblige à s’interroger non pas seulement sur les contenus et sur la manière de les enseigner mais aussi sur les processus cognitifs sous-jacents aux démarches mathématiques. Le propos de cet exposé est d’introduire à une analyse cognitive de l’activité mathématique.
La situation épistémologique particulière des mathématiques par rapport aux autres domaines de connaissance conduit à conférer aux représentations sémiotiques un rôle primordial. Tout d’abord elles sont le seul moyen d’accès aux objets mathématiques ; ce qui soulève le problème cognitif du passage de la représentation d’un objet à une autre représentation de ce même objet. Ensuite, et surtout, les démarches mathématiques impliquent de manière intrinsèque la transformation de représentations sémiotiques.
En prenant quelques exemples dans les différentes représentations, iconiques et symboliques, des nombres, on montre que l’activité mathématique fusionne deux types de transformation de représentations sémiotiques : l’un qui correspond à un changement de registre de représentation et l’autre qui consiste à utiliser les possibilités de transformation propres à chaque registre. C’est le premier type de transformation qui se révèle être le plus difficile et le plus déroutant pour les élèves. Les difficultés pour passer d’une représentation dans un registre à une représentation dans un autre registre révèlent la complexité, trop souvent sous-estimée, de l’articulation entre eux des registres de représentation utilisés en mathématiques.
On montre enfin que l’opposition entre les représentations sémiotiques et les représentations mentales repose sur la confusion entre le système mobilisé pour produire une représentation et la modalité phénoménologique de cette production. Les représentations mentales sont souvent des représentations sémiotiques intériorisées.