« La recherche en mathématiques offre une grande liberté dans le choix des sujets sur lesquels travailler »

Cyril Houdayer est mathématicien et depuis 2023, professeur au département mathématiques et applications de l’École normale supérieure. Son domaine de spécialité ? La théorie des algèbres de von Neumann, appelée aussi W*-algèbres. Développée dans les années 1930 par Francis Murray et John von Neumann. Ce dernier, mathématicien américain d’origine hongroise, est également l’inventeur méconnu de la théorie des jeux, qui définit en 1945 les principes de fonctionnement de l'ordinateur, posant ainsi les bases de l'informatique d’aujourd’hui.
« La théorie des algèbres de von Neumann fournit, quant à elle, un cadre mathématique à la mécanique quantique », explique Cyril Houdayer. « Cette théorie s’est ensuite émancipée de la physique pour développer des liens avec d’autres branches des mathématiques telles que la théorie des groupes, la théorie ergodique, les probabilités ou encore, plus récemment, la théorie quantique de l’information », poursuit-il. « Les algèbres de von Neumann sont des structures algébriques dont les éléments sont des opérateurs linéaires bornés définis sur un espace de Hilbert. Ce sont par conséquent des algèbres de matrices dont la taille peut être infinie. » Toute la fascination du chercheur pour ces algèbres repose « sur les applications profondes et inattendues qu’elles ont pu avoir dans d’autres domaines des mathématiques », justifie-t-il. « Par exemple, en 1984, Vaughan Jones a découvert un nouvel invariant en théorie des nœuds en étudiant les inclusions d’algèbres de von Neumann ! Cette découverte a eu beaucoup d’impact en topologie de basse dimension. »

« Des conjectures ambitieuses et novatrices »

Depuis cinq ans, Cyril Houdayer utilise la théorie des algèbres de von Neumann dans ses travaux pour explorer de nouvelles propriétés de rigidité au sein des groupes arithmétiques. Des recherches inédites, qui bénéficient aujourd’hui d’une prestigieuse ERC Advanced Grant. Son projet NET (Noncommutative ergodic theory of higher rank lattices) consiste à développer la théorie ergodique noncommutative des groupes arithmétiques en utilisant les algèbres de von Neumann. Le développement de cette théorie s’appuie notamment sur la très célèbre conjecture de rigidité d’Alain Connes, qui prédit que tout groupe arithmétique de rang supérieur peut être reconstruit à partir de son algèbre de von Neumann. « Très récemment, en collaboration avec Rémi Boutonnet, nous avons découvert que les algèbres de von Neumann, en combinaison avec la théorie ergodique, fournissent un outil très puissant dans l’étude des groupes arithmétiques », précise Cyril Houdayer. « C’est à partir de là qu’est né le projet NET. »

« Cette ERC est une belle reconnaissance pour les travaux que j’ai entrepris ces cinq dernières années, ainsi qu’un encouragement à poursuivre mes recherches à l’interface des groupes arithmétiques et des algèbres de von Neumann », sourit le chercheur.
Plus concrètement, cette bourse lui permettra de recruter plusieurs post-doctorants aux expertises variées et de monter sa propre équipe de recherche. « Nous allons réfléchir ensemble à des conjectures ambitieuses et novatrices avec l’espoir d’en résoudre quelques-unes. »

Développer son propre style

Un beau chemin parcouru, pour celui qui, de son propre aveu, n’était « pas particulièrement » destiné à devenir mathématicien. « Je suis originaire d’un milieu modeste, très éloigné du monde de la recherche », indique Cyril Houdayer. Mais, enfant, son père lui apprend à jouer aux échecs, ce qui lui donne rapidement « le goût de l’abstraction et du raisonnement nécessaires aux études en mathématiques ». Après le lycée, il poursuit par une classe préparatoire, encouragé par « de bons enseignants ». Il intègre ensuite l’École normale supérieure en 2001. « Pendant mes études à l’ENS, j’ai apprécié l’analyse fonctionnelle et l’algèbre, mais je ne savais pas trop vers quelle spécialisation m’orienter », se souvient le chercheur. Marc Rosso, à l’époque directeur du département des mathématiques et applications (DMA), lui suggère alors de suivre un cours de master sur les algèbres de von Neumann à l’Institut de Mathématiques de Jussieu. « J’ai eu un véritable coup de foudre et décidé d’explorer plus avant ce sujet en thèse », explique-t-il. « Mon directeur, Stefaan Vaes, m’a très bien encadré tout en me laissant la liberté de travailler sur les problèmes qui me plaisaient. Grâce à lui, j’ai pu trouver ma voix/voie et développer mon propre style en mathématiques. »

« Il est passionnant de pouvoir exercer un métier où l’on continue à apprendre, tout en enseignant à ses étudiants et en travaillant avec ses collègues. »

Après l’obtention de son doctorat, Cyril Houdayer est recruté outre-Atlantique à l’Université de Californie à Los Angeles, en tant que post-doctorant sous l’égide de Sorin Popa. Il revient ensuite en France pour un poste de chargé de recherche au CNRS, où il est affecté à l’Unité de Mathématiques Pures et Appliquées de l’ENS Lyon.
Puis, il devient professeur à l’Université Paris-Saclay, avant de rejoindre en 2023 le département des Mathématiques et Applications de l’ENS-PSL comme professeur en convention à temps plein. « Il est passionnant de pouvoir exercer un métier où l’on continue à apprendre, tout en enseignant à ses étudiants et en travaillant avec ses collègues », témoigne-t-il. « La recherche en mathématiques offre en particulier une grande liberté dans le choix des sujets sur lesquels on veut travailler », ajoute-t-il. « Par ailleurs, le langage mathématique permet de développer à la fois son intuition, son imagination et sa créativité. »

Plus de quinze ans après le début de sa carrière, Cyril Houdayer prend toujours autant de plaisir à plonger dans un problème mathématique et à « entrer dans une sorte de zone où [il] oublie le temps qui passe. C’est une grande satisfaction intellectuelle et une forme de plénitude ».

Au sein du DMA, Cyril Houdayer est également directeur adjoint des études, où il accompagne les élèves en dernière année de scolarité dans la préparation de leur candidature au Contrat Doctoral Spécial Normalien (CDSN). « L’ADN du département des mathématiques et applications est l’enseignement des mathématiques par la recherche », explique-t-il. « Cette approche offre une formation solide afin de préparer au mieux les élèves à faire une thèse dans cette discipline », poursuit le scientifique. « De plus, la grande variété des cours offerts au DMA permet aux élèves de s’initier à plusieurs domaines et de s’orienter vers le sujet de thèse qui leur plaît le plus. »

Contribuer à la formation des nouvelles générations 

Professeur à l’ENS-PSL depuis presque deux ans maintenant, Cyril Houdayer y apprécie l’enseignement et la liberté académique, « points forts » de l’École et en particulier du DMA. Le scientifique y a « l’opportunité » d’enseigner des cours « très liés » à sa recherche, comme les systèmes dynamiques ou encore la superrigidité. « C’est stimulant et gratifiant, car les étudiantes et étudiants sont vraiment motivés et veulent comprendre les choses en profondeur », estime-t-il. « Par ailleurs, le DMA est un département au sein duquel il est facile et agréable de discuter avec les collègues issus d’horizons divers et variés », continue-t-il. « Je suis très heureux de pouvoir faire de la recherche au sein d’un établissement aussi prestigieux et de contribuer à la formation des nouvelles générations de mathématiciens et mathématiciennes. »

« Cette profonde unité dans la diversité des mathématiques ne cesse de m’émerveiller. »

Un conseil d’ailleurs, pour les futurs chercheurs et chercheuses dans ce domaine ? « Il me semble important de cultiver sa curiosité et son ouverture d’esprit », répond-il sans hésiter. « Il y a souvent plusieurs points de vue possibles pour comprendre un même objet mathématique, et parfois, la démonstration d’un théorème difficile peut nécessiter d’utiliser différentes théories qui sont a priori très éloignées les unes des autres », poursuit le mathématicien. « Cette profonde unité dans la diversité des mathématiques ne cesse de m’émerveiller. »