Le monde doit accepter les « conséquences négatives de l’IA » : le patron d’OpenAI fait une sortie controversée

Sam Altman considère que le monde doit accepter certaines conséquences négatives de l’IA. Le dirigeant d’OpenAI estime par ailleurs que l’intelligence artificielle apportera bien plus de choses positives que négatives. Sam Altman est ainsi quelque peu entré en contradiction avec la position tenue par Dario Amodei (Anthropic).

Pour rappel, Dario Amodei, dirigeant d’Anthropic, prône un contrôle strict du développement de l’IA. Le 12 septembre dernier, il avait même publié un essai qui appel à un ralentissement de l’industrie. De son côté, Sam Altman, PDG d’OpenAI, s’est dit « d’accord avec Dario », tout en précisant qu’il ne voulait pas être le seul à lever le pied. Mais si les deux hommes semblent vouloir tous les deux un encadrement de l’IA, ils ne semblent pas non plus exactement sur la même longueur d’onde. En effet, lors d’une interview accordée au média Politico, Sam Altman est revenu sur les divergences qui l’opposent à Dario Amodei (Anthropic) concernant la régulation de l’intelligence artificielle.

Pour Sam Altman, il faut accepter certaines conséquences négatives de l’IA 

Au micro de Politico, Sam Altman a défendu une vision accessible et ouverte de l’IA : « Nous avons toujours été convaincus que cette technologie devait être démocratisée et mise entre les mains des gens ». Il précise ensuite que cette approche entraîne inévitablement des risques qu’il faut accepter : « Je pense que l’une des principales différences entre nous et certains défenseurs d’une approche plus stricte en matière de sécurité de l’IA, c’est que nous estimons que le monde doit accepter certaines conséquences négatives en contrepartie des bénéfices apportés par cette technologie et du fait de laisser aux gens la possibilité de décider par eux-mêmes. ». 

Le dirigeant d’OpenAI à ensuite indirectement lancé une pique à Anthropic qui défend un contrôle strict de l’IA : « Je ne suis pas d’accord, mais je comprends le point de vue de ceux qui se disent : “Cette technologie va devenir tellement puissante qu’un seul laboratoire à San Francisco devrait en disposer, s’assurer qu’il ne se passe rien de mal et, en quelque sorte, déterminer quels bénéfices nous pouvons en tirer.” Je pense que ce serait un compromis totalement inacceptable du point de vue de la liberté, de l’autonomie des individus et de leur capacité à décider eux-mêmes de leur avenir ». Sam Altman caricature en parlant d’« un seul laboratoire à San Francisco » qui contrôlerait l’IA, mais pointe donc du doigt une centralisation de ce secteur, au nom de la sécurité et au détriment d’un déploiement auprès du plus grand nombre.

Accepter les conséquences négatives, mais pas toutes non plus

Sam Altman s’est montré résolument optimiste au cours de l’interview en expliquant que l’IA apportera bien plus de bien que de mal : « Je ne serais donc pas prêt à accepter un compromis du genre : “Nous allons nous assurer qu’il n’y ait pas de piratages majeurs, qu’il n’y ait aucune forme de détournement de cette technologie, qu’il n’y ait aucune arnaque, ni aucun des autres problèmes qui pourraient survenir”, parce que je pense que les gens feront énormément plus de choses positives que de choses négatives, et ce dans des proportions considérables. ». 

Le dirigeant d’OpenAI a tout de même mis quelques limites dans sa vision d’une intelligence artificielle accessible au plus grand nombre et non centralisée, notamment en cas de perte de contrôle majeure au profit de l’IA et lors de « risques réellement catastrophiques ». Il reste maintenant à définir où débutent les risques liés au développement de l’IA.