«C’est comme si l’IA avait tiré le tapis sous les pieds des mathématiciens»

Les mathématiciens sont sous le choc. Depuis quelques mois, ils voient fuser des résultats stupéfiants à des problèmes majeurs, dont certains résistaient à leurs efforts depuis plus de 100 ans. Ces artisans sont ébranlés jusqu’au plus profond de leur identité.

La cause de ce tumulte existentiel est, bien évidemment, l’intelligence artificielle (IA). Mardi, OpenAI dévoilait des résultats à plus de 370 problèmes mathématiques, qui vont de l’algèbre à la théorie des nombres, en passant par la topologie. Ces résultats ont été obtenus avec un « modèle interne de pointe », inaccessible au public.

Des dizaines de conjectures épineuses ont ainsi trouvé leur résolution dans les milliers de pages d’équations générées par la boîte noire. Les démonstrations ont été vérifiées par des ordinateurs grâce à un langage de programmation, le Lean, qui manie la logique mathématique. Des humains ne les ont pas encore toutes passées au peigne fin.

« La recherche en mathématiques ne sera plus jamais pareille », confirme le mathématicien Luc Vinet, professeur de physique à l’Université de Montréal. « C’est comme si l’IA avait tiré le tapis sous les pieds des mathématiciens », illustre celui qui étudie les maths depuis les années 1970.

Les annonces de cette semaine font suite à celle, début septembre, portant sur la résolution du problème de Navier-Stokes, une énigme majeure de la dynamique des fluides. 10 000 agents d’OpenAI ayant bénéficié d’une puissance de calcul valant plusieurs millions de dollars ont dénoué en quelques jours ce « problème du millénaire », réputé insurmontable.

La résolution de Navier-Stokes avait vite suscité la controverse. Un mathématicien qui travaillait sur le problème avait évoqué la possibilité d’un espionnage par l’IA. Et 25 lauréats de la médaille Fields (le « Nobel » des mathématiques) ont peu après signé une lettre critiquant le « grave désalignement » de l’IA en mathématiques.

Résoudre des problèmes mathématiques, ont expliqué les médaillés, n’est qu’un moyen pour atteindre un objectif sous-jacent, celui de la compréhension. La « production massive » de résultats avec l’IA, à un rythme effréné, risque de « détruire un terrain fertile au lieu de donner vie à de nouvelles idées », se sont-ils inquiétés.

Pour les géants de l’IA, comme OpenAI et Anthropic, les défis mathématiques sont d’abord une manière d’évaluer les capacités de leurs « modèles frontières ». Mais, ce faisant, ils vont vaciller l’édifice assemblé par des mathématiciens depuis des millénaires, et qu’on pensait jusqu’à récemment appartenir exclusivement à l’intellect humain.

Des mathématiques à humaniser

Précisons que, même si les démonstrations des agents d’IA sont rédigées sous la forme d’équations conventionnelles, la plupart sont inintelligibles pour les mathématiciens. Souvent, ces démonstrations complexifient à outrance des étapes simples et escamotent des démonstrations essentielles.

Autrement dit, la flopée de résultats générés par l’IA ne débouche pas automatiquement sur une compréhension des solutions trouvées. La métaphore la plus populaire veut que ces percées équivaillent à arriver en hélicoptère au sommet d’une montagne plongée dans un épais brouillard.

Certains mathématiciens s’inquiètent de ce que leur profession ne servira bientôt qu’à vérifier des preuves générées par des microprocesseurs, et perde donc tout intérêt. D’autres se montrent moins inquiets, voyant même dans l’IA un outil pour repousser les frontières d’un champ incorrigiblement humain.

Luc Vinet, qui utilise l’IA dans sa recherche, se dit d’ailleurs « optimiste ». « Ça peut mener à une renaissance des mathématiques », croit-il. Les modèles d’IA, entraînés sur un vaste corpus de connaissances, proposent des idées que les hyperspécialistes n’imaginent pas. « L’IA appelle l’éclectisme », résume cet ancien recteur.

Les chercheurs doivent toutefois s’en tenir à un code d’éthique sérieux, avertit M. Vinet. En particulier, ils doivent comprendre toute démonstration avant de la publier. Leur résultat prendra vie avec la transmission de cette compréhension à la communauté. En ce sens, les mathématiques sont un humanisme.

D’ailleurs, M. Vinet explique avoir récemment utilisé l’IA pour dénouer la dernière étape d’un problème qu’il essayait de résoudre depuis plus de 20 ans. Et la machine a réussi. « Je dois maintenant travailler très fort pour me réapproprier ce résultat, pour l’humaniser. » Il n’a pas encore publié la solution.

Une démonstration « de pouvoir »

Marcel Goh, candidat au doctorat en mathématiques à l’Université McGill, refuse quant à lui d’utiliser l’IA dans sa recherche. Il se décrit comme un « végétarien de l’IA ». Le jeune mathématicien croit que cette béquille l’empêcherait d’apprendre. « Démontrer des théorèmes, c’est un jeu auquel nous jouons pour nous améliorer. Le but, ce n’est jamais de gagner le jeu », explique-t-il.

Autour de lui, M. Goh voit des étudiants aux cycles supérieurs en mathématiques « qui passent six heures par jour à converser avec ChatGPT ». « Ils n’ont pas l’air d’avoir beaucoup de plaisir… Ces étudiants croient que c’est la chose à faire pour être compétitifs », raconte-t-il.

Il y a quelques semaines, des mathématiciens ont fondé l’Association for Human Mathematics, qui regroupe déjà plus de 800 membres, dont M. Goh. Mercredi, le groupe a publié une déclaration critiquant la nouvelle vague de résultats d’OpenAI, obtenus en donnant des commandes non divulguées à un modèle privé.

« La publication simultanée de plus de 700 fichiers n’est pas une démonstration scientifique, y lit-on, mais une démonstration de pouvoir. Nous exhortons les mathématiciens à mettre fin à leur collaboration avec OpenAI et à revenir à une vision de la science qui place la compréhension humaine au cœur de ses préoccupations. »

Contrairement au problème de Navier-Stokes, qui avait requis une puissance de calcul titanesque, les nouveaux résultats d’OpenAI ont été obtenus avec beaucoup moins d’efforts, selon ce qu’a déclaré l’entreprise à Scientific American. Presque toutes les solutions découleraient d’une commande unique à un seul agent d’IA, a déclaré un porte-parole au magazine.

Pour que tous ces résultats soient dûment validés par des humains, il faudra du temps et de l’argent. D’ici là, des modèles d’IA offriront des solutions à une myriade d’autres conjectures difficiles. Le rythme de la machine s’annonce impossible à suivre. Luc Vinet voit d’un bon œil cette « banque de résultats » qui s’accumule. Mais il reconnaît qu’il pourrait « changer d’idée dans six mois ».