[Trajectoire normalienne] Sylvia Serfaty, mathématicienne à l’heure de l’intelligence artificielle

Pour lancer la conversation, nous avons demandé à la mathématicienne de définir le terme « trajectoire ». En plus du « chemin parcouru et des endroits par lesquels la vie nous a menés », c’est selon Sylvia Serfaty ce qui fait la singularité de chaque individu : « on n’est pas interchangeables car on a tous une forme de trajectoire unique, due en partie à nos choix et au hasard ». Allons donc à la rencontre de sa trajectoire.

Le goût des mathématiques

Très bonne élève au lycée, Sylvia Serfaty a eu le déclic pour les mathématiques en classe de première. Alors qu’elle passe plus d’une heure sur un problème, elle invente une méthode un peu générale pour le résoudre et s’aperçoit que cette démarche l’enthousiasme. Elle apprécie « se perdre dans le problème et aller au fond des choses ». Si la langue de Molière l’intéresse aussi, notamment grâce à une professeure « passionnante et exigeante » (Des équations personnelles, p.15), elle ne parvient pas à « faire parler le texte » dans les épreuves de commentaire composé. 
À l’inverse, elle a l’intuition, alors qu’elle n’y connaît pas grand-chose, que les mathématiques lui correspondraient bien. La perspective de la recherche « romantique et déconnectée du réel » fait rêver l’adolescente. Cette pensée « fulgurante et instantanée » achève de la convaincre : elle deviendra chercheuse en mathématiques en passant le concours de l’ENS. Pourquoi aime-t-elle les mathématiques ? « La construction d’une entreprise de pensée, d’objets qui ont des liens avec les autres est intellectuellement très satisfaisante », explique-t-elle. Si cette discipline « élégante » peut sembler obscure aux non-initiés, elle ajoute que « ce ne sont pas juste des formes vides qui sont belles et s’agencent bien entre elles, mais des formes qui ont une vraie aptitude à décrire le monde ».

À celles et ceux qui se poseraient la question, Sylvia Serfaty ne s’est jamais dit que sa qualité de femme l’empêcherait d’exercer ce métier : « il m’avait été inculqué que les filles peuvent faire absolument les mêmes choses que les garçons ». Toutefois, à son entrée rue d’Ulm, elles n’étaient que six à intégrer l’ENS par le concours en spécialité mathématiques, puis cinq à choisir le département de mathématiques. 
Le manque de femmes dans les filières scientifiques est aujourd’hui un lieu commun. Pour elle, la réforme récente du baccalauréat est une catastrophe : proposer et non imposer l’enseignement des mathématiques désavantage les jeunes filles, plus sujettes à la dévalorisation. Elles ont donc déserté cette spécialité. Les mathématiques obligatoires dotées d’un programme ambitieux pourraient en partie tenter de résoudre cette inégalité. En sus de l’enseignement, il est aussi important de montrer que les chercheuses en mathématiques existent : c’est aussi pour cela qu’elle a écrit ce livre. 

Intégrer le département de mathématiques de l’ENS-PSL

Après deux ans de classe préparatoire pendant lesquelles elle découvre le « b.a-ba des mathématiques » (p.20) mais surtout beaucoup de travail, elle intègre l’ENS en 1994. Dès la classe de première scientifique, Sylvia Serfaty s’était lancé le défi d’étudier à Normale Sup : « c’était dans mon univers mental, quelque chose qui me faisait rêver, d’impressionnant ». Elle loue une « belle école, où la liberté est très forte » et où l’on n’incite pas les élèves à « rentrer dans un moule ». Elle attribue à l’ENS la force de la « création de profils vraiment uniques ». Elle se dit également reconnaissante envers ce statut de normalienne, qui lui a ouvert beaucoup de portes. 

Être mathématicienne

Pour le grand public, le travail de chercheur en mathématiques peut sembler mystérieux. Sylvia Serfaty éclaire les zones d’ombre pour nous. Elle travaille à la fois seule et en collaboration avec d’autres chercheuses et chercheurs : « on échange les idées puis chacun repart de son côté, y repense, laisse les idées décanter. Certaines parties se font en dialogue et d’autres de manière individuelle ». 
Sylvia Serfaty encadre aussi des doctorantes et doctorants dans leur thèse, « l’une des choses les plus gratifiantes et qui donne le plus de sens à [s]on métier ». Elle qualifie la relation qui se noue entre eux de « très enrichissante ». Sur le rôle des prix, comme la médaille Fields à laquelle elle consacre quelques lignes dans son livre (attribuée aux mathématiciennes et mathématiciens prometteurs âgés de moins de quarante ans, ndlr), elle reste nuancée : cette consécration peut être « très lourde à porter ». Il faut pour elle voir « l’écosystème entier » et pas seulement les médaillés qui occultent parfois leurs collaborateurs. L’intérêt principal doit rester celui de faire de la recherche en mathématiques.

Dans son livre, Sylvia Serfaty établit un catalogue (non exhaustif bien sûr) des types de mathématiciens : les renards, les hérissons, les theory builders, les problem solvers. Nous n’avons pas résisté : quelle mathématicienne Sylvia Serfaty est-elle ? Plutôt theory builder, elle aime « avoir un fil conducteur et à partir de celui-ci étudier des sujets différents ». Elle a ainsi « tendance à connaître un petit peu sur beaucoup de choses plutôt qu’énormément sur une chose ». Et quid des qualités nécessaires pour faire une bonne mathématicienne ou un bon mathématicien ? Il faut être persévérant sans être entêté quand certains problèmes ne sont pas mûrs pour être résolus. Elle met aussi un point d’orgue sur la capacité à imaginer des choses nouvelles, qu’on ne peut pas mesurer dans un concours.

Des mathématiques « artisanales » à l’émergence de l’intelligence artificielle

Nous avons fini par évoquer « l’éléphant dans la pièce », le sujet qu’elle ne pouvait pas ne pas aborder dans un livre portant sur les mathématiques. À la fois inquiète et enthousiaste face à l’émergence de l’intelligence artificielle, elle demeure convaincue que « la manière de pratiquer les mathématiques va se métamorphoser et que la nature du métier va changer ». 
La discipline, « artisanale », était jusque-là pratiquée de la même manière depuis plus de deux mille ans : avec un papier et un crayon. Elle trouvait un certain charme à la lenteur, au fait de laisser les idées se décanter. Les mathématiciens avaient ainsi l’habitude de randonner pour laisser les idées venir et résoudre leurs problèmes. Désormais, c’est dans un « bolide » qu’ils devront grimper pour faire face à ce qui est de l’ordre de la « révolution industrielle ». Au-delà des métamorphoses que son métier va subir, Sylvia Serfaty se pose de nombreuses questions : les gens continueront-ils à réfléchir quand les solutions leur seront toutes servies sur un plateau ? Parviendra-t-on encore à réfléchir aux détails techniques ? Sera-t-on tous atteints de « rouille intellectuelle » ? 
L’intelligence artificielle divisera probablement les chercheurs en deux groupes : ceux qui continueront à réfléchir et verront leurs idées démultipliées à l’aide de l’IA, et ceux qui s’installeront dans une forme de paresse intellectuelle et n’iront donc pas très loin. Plus encore, que restera-t-il du métier d’enseignant ? Comment formera-t-on les étudiants en mathématiques ? Sylvia Serfaty a déjà prévenu ses doctorants : ils constituent probablement la dernière génération à savoir formuler et écrire les preuves entièrement à la main… 
 

Biographie

Sylvia Serfaty est mathématicienne, professeure à Sorbonne Université et au Courant Institute de New York University. Elle vient d’être élue à l’Académie des sciences.
Membre de l’American Academy of Arts and Sciences, elle a été lauréate de plusieurs prix scientifiques dont le prix Henri Poincaré, le prix Maryam Mirzakhani ou encore, en 2025, le prix Riemann. Des équations personnelles est son premier livre pour le grand public.