LIVRES : Le rectangle de Lascaux

Stanislas Dehaene

Le rectangle de Lascaux

(Et Homo sapiens inventa la géométrie)

Paris, Odile Jacob, 2026, 

344 pp., 24,90€

Titulaire de la chaire de psychologie cognitive au Collège de France, Stanislas Dehaene prend pour point de départ de son étude le tracé d’un rectangle sur les parois de la grotte de Lascaux. Évoquant la proposition de Henri Poincaré selon qui « la genèse de l’invention mathématique est un problème qui doit inspirer le plus vif intérêt au psychologue », Dehaene y répond en privilégiant la voie cognitiviste : « La recherche d’un code neural pour la composition symbolique est l’une des plus grandes questions ouvertes des neurosciences contemporaines ».

Selon Dehaene, la faculté mathématique est « accessible à tous » car nous avons  « des concepts innés d’espace et de nombre », nous possédons un esprit symbolique et une vision intérieure, nous voyons « en pensée » la ligne droite, ce qui explique que des aveugles puissent être de grands mathématiciens et que le langage mathématique soit compris et utilisé par des chercheurs de tous les pays, quelle que soit leur langue. Comment ce « langage intérieur » code-t-il nos pensées ?

Partout au cours des millénaires et sur toutes sortes de supports, l’humain s’est plu à représenter des formes géométriques, comme le montrent les productions qui remontent à Homo erectus (par ex. un motif en zigzag gravé sur un coquillage trouvé sur l’île de Java). D’où, la thèse selon laquelle « n’importe quel symbole géométrique […] trahit une caractéristique fondamentale de la cognition humaine : la capacité de formuler des pensées symboliques et, sur cette base, de construire une pyramide infinie de concepts ». Pour Dehaene, l’intuition géométrique « consiste en une sensibilité particulière aux régularités spatiales qui sont engendrées par l’agencement de points, de lignes, de courbes ou de formes » en respectant la symétrie et l’égalité des longueurs et des angles. L’idée de la continuité « est intuitive et précoce » et tout commence par la régularité géométrique simple du carré et du rectangle : « parallélisme et angle droit fonctionnent comme des attracteurs mentaux », affirme l’auteur. 

Il reste à savoir comment, à partir de ces intuitions mentales ou « proto-mathématiques » l’on parvient aux mathématiques formelles qui commencent, ainsi que le rappelle Dehaene, avec les Éléments d’Euclide. Ceux-ci entrent en accord avec l’intuition géométrique universelle, ils se basent sur le point, la ligne et les parallèles, ce qui n’a pas empêché l’invention, par la suite, d’autres géométries « non-euclidiennes ».  Cette extension des mathématiques se fonde sur la correspondance que tous les humains, à peine nés, établissent entre le nombre et l’espace. En voulant compter des objets, l’homme les regroupe, révélant ainsi les liens entre la géométrie et l’arithmétique. Dehaene en cherche le « substrat neuronal », il se penche sur la compréhension du concept de l’infini, celui du nombre premier, celui de racine carrée, sur le rôle de la négation ou l’invention des fractions ou celle d’un « nombre imaginaire pur » et sur le problème de la mesure de la diagonale posant l’existence de nombres « irrationnels ». L’interconnexion de l’algèbre et de la géométrie se repère quant à elle dans « l’invention des graphiques de données » que nous percevons « avec le même algorithme que celui qui détermine l’orientation des objets ». 

Le fait que l’homme, partout et de tout temps, perçoive la régularité des formes et les catégorise, signale l’existence d’un langage de programmation propre au cerveau humain. Il est à la source de l’invention de l’art et de la musique à laquelle Dehaene consacre du reste un chapitre. Les recherches montrent que l’écoute de la musique active les réseaux cérébraux proches de ceux des mathématiques et non de ceux du langage parlé ou écrit.  

Convaincu que les maths sont à la portée de tous les élèves, Dehaene propose de revoir l’enseignement dès la maternelle et de remplacer le comptage par le jeu avec des formes (école de Singapour) en suivant trois étapes : concret, imagé, abstrait. Il confirme les résultats positifs de l’approche pédagogique prônée par plusieurs mathématiciens : « Dès le plus jeune âge, apprendre à mieux voir, à manipuler des objets sans sa tête, à les plier ou à les découper mentalement, a un impact positif sur les résultats scolaires en mathématiques ». 

Dehaene et son équipe cherchent l’explication du développement de la pensée géométrique dans le code neuronal en tenant compte de l’évolution, ce qui les amène à se pencher sur la question de la différence entre l’humain et les animaux. Ces derniers ont presque tous le sens du nombre et l’intuition de l’espace (ils s’orientent, sont des « génies de l’espace », détiennent un « GPS cérébral »). Poussin, rat, fourmi du désert et autres bêtes  « partagent avec nous le concept de ligne numérique » qu’ils orientent, comme nous, de gauche à droite et certains d’entre eux, comme les singes et les abeilles ordonnent en partant de zéro. Si l’évolution explique le partage des intuitions du nombre et de l’espace avec les animaux, il n’en demeure pas moins que ces derniers sont dépourvus de  « la faculté de les recombiner par le biais des symboles et d’une syntaxe », c’est pourquoi « les mathématiques restent l’apanage de notre espèce ». Les cognitivistes nomment « compositionnalité » la faculté de « composer des expressions mentales à partir de symboles élémentaires » et c’est elle que Dehaene voit comme une « caractéristique universelle de l’esprit humain ». Nous combinons « des informations géométriques avec d’autres éléments arbitraires » tels que la couleur, ce que les animaux ne peuvent faire. S’appuyant sur de multiples expériences, l’auteur insiste sur cette distinction au long de son ouvrage : « seuls les humains semblent accéder à ce langage intérieur qui assemble les concepts selon une grammaire bien précise. Les autres espèces en semblent incapables ». La capacité à comprimer l’information s’avère également une caractéristique de notre cerveau : « comprendre c’est comprimer », supprimer les répétitions, rechercher la description la plus courte. Cette compression suppose l’existence de « programmes mentaux » que l’équipe scientifique cherche à comprendre en recourant à des programmes informatiques ainsi qu’à l’IA. Des logiciels comme DreamCoder permettent ainsi à Dehaene d’établir des parallèles avec le cerveau et d’affirmer que le rêve est l’une des « astuces que le cerveau utilise pour percevoir les formes », car « en dormant, nous consolidons et nous approfondissons ce que nous avons appris la veille ». 

Les expériences menées avec l’IA révèlent que les babouins et les réseaux de neurones artificiels peuvent reconnaître une image mais non les propriétés géométriques, qui ressortissent quant à elles au code symbolique propre à l’espèce humaine, quelle que soit la culture dans tous les continents. L’expérience dévoile une distinction entre deux perceptions de l’image qui renvoient à deux voies du circuit cérébral, la voie ventrale (les images) et la voir dorsale (les maths) : « De même que le langage ne se borne pas à une séquence de mots, la vision ne s’arrête pas à l’analyse superficielle des pixels de l’image ». A la différence des primates, l’humain décompose et analyse les images « à l’aide d’une grammaire des formes ».

Dehaene accorde un rôle crucial à la transmission. Il scrute les réseaux corticaux pour y voir les indices d’une évolution récente ayant « radicalement augmenté les capacités computationnelles des circuits de nos aires corticales associatives ». Selon lui, l’ « explosion culturelle » qui marque le Paléolithique supérieur n’est pas liée à une augmentation de la représentation mentale mais bien plutôt à « l’amélioration de sa transmission à d’autres individus ».

Nous générons des mythes, des chimères, des idées mathématiques irréelles, bref une « infinité d’idées dont une toute petite partie seulement présente une utilité pratique », et dont certaines feront l’objet de croyances, notamment religieuses. Se voulant optimiste, Dehaene « croit » « que l’humanité saura renoncer progressivement aux croyances qui la divisent et converger vers un jeu d’idées justes ».  Espérons que les « idées justes » avec lesquelles il veut jouer ne relèvent pas de l’encodage… 

Disons plutôt avec Godard et Deleuze, « pas d’idées justes, juste des idées ».      

Chakè MATOSSIAN ■