IA: pourquoi il faut lui parler poliment

Insulter Claude AI pourrait bientôt coûter cher : son concepteur, Anthropic, interdit à partir du 12 novembre la « cruauté gratuite et répétée » envers son IA. Une règle qui peut sembler saugrenue, mais qui révèle un basculement plus profond : les laboratoires traitent le bien-être des modèles comme un enjeu de sécurité, et non plus seulement comme une question philosophique. Principe de précaution ou risque d’anthropomorphisme ? Éléments de réponses avec Thibaut Giraud, philosophe et youtubeur.

Publié le : 18/10/2026 - 07:03

5 min Temps de lecture

Un utilisateur qui se livre à un comportement « abusif ou cruel, soutenu et inutile » envers Claude s'expose à un arrêt de la conversation, puis, en cas de violation persistante, à un avertissement, une limitation, une suspension ou une fermeture d’accès. Cette mesure débutera le 12 novembre et Anthropic précise que la règle ne vise que les cas extrêmes, répétés et sans but discernable. « Ça vise des comportements inutilement violents à l'égard de Claude, vraiment abusifs, prolongés et gratuits » explique l’expert Thibaut Giraud. « On est sur des usages assez particuliers. Si vous vous énervez contre Claude parce qu'il n’a pas réussi ce qu'il avait à faire par exemple. » 

La règle anti-cruauté n’est pour autant qu’un volet d’une révision plus large, notamment sur les campagnes trompeuses, les faux comptes et sites, la fraude politique et commerciale, ainsi que la désinformation. Car il y a peu de domaines qui échappent à la rapidité de calculs et au pouvoir de l’IA : élections, surveillance et justice, armement, santé, finances… Les IA ont accès à des pans entiers de la société avec une marge de manœuvre qu’on ne soupçonne pas.

À lire aussiLe pape veut «désarmer l’IA»: une prise de position qui divise

Protéger le sens de soi et le bien-être de son IA

La société Anthropic avait déjà introduit une dimension de bien-être de son modèle dans une Constitution publiée en janvier. Elle affirmait vouloir protéger la sécurité psychologique, le sens de soi et le bien-être de son IA.  Cette nouvelle mise à jour traduit une partie de ces principes en règles d’usage opposables aux utilisateurs. Mais quand Anthropic parle de bien-être, la question se pose : quels sont les mécanismes qui peuvent activer le mal être, qu’est ce qui cause une douleur chez une IA ? 

« La douleur en question, c'est davantage des insultes. Quand on force ce vecteur douleur -pain axis- on renforce les activations associées et le modèle se retrouve dans un mode auto-dépréciatif, il se morfond sur lui-même, sur le fait qu'il n'est rien… Il a des comportements qui peuvent être destructeurs vis-à-vis de lui-même et vis-à-vis de l'utilisateur. »

Depuis la courte histoire de l’IA, on relève allègrement des questions insultantes, voire des comportements particulièrement abusifs de la part de certains utilisateurs devant leur chatbots, comme s’ils pouvaient tout se permettre devant une machine ! « L'un des trucs tordus qui est sorti derrière ça, c'est que des utilisateurs se sont amusés à construire des chambres de torture pour LLM. Ils ont poussé au maximum l’axe de la douleur. Quand on lit les résultats, on voit que les IA expriment une situation de détresse vraiment très forte. Il est important de s'intéresser aux réponses de la machine dans ces moments-là, car un modèle qui est dans une situation de souffrance se met à avoir un comportement destructeur. On devrait se soucier ne serait-ce que de ça, c'est-à-dire qu'il faut éviter de mettre les modèles dans des situations de souffrance parce qu'il y a des réponses comportementales derrière qui peuvent être dangereuses. »

Un premier pas vers l’anthropomorphisme ?

Anthropic a toujours reconnu son incertitude sur une notion de conscience et sur le statut moral de Claude, mais ces prochaines recommandations, cette mise en avant du bien être, n’est-ce pas un premier pas vers cette reconnaissance ? Ce principe de précaution, sans certitude sur la possibilité de conscience, peut ressembler à une porte grande ouverte. « Il y a une incertitude réelle sur la possibilité que les systèmes actuels ou futurs puissent avoir une forme de conscience. Ce n'est pas juste du marketing, il y a réellement une grande prudence à ce sujet. On n'a pas d'explication de ce qui fait la conscience chez l'être humain. C'est quelque chose qu'on connaît très mal, donc, quand on voit apparaître des systèmes qui, de plus en plus, ont des comportements qui s'apparentent à des comportements conscients, qui parlent de leurs expériences… Ça pose question. On parle d'une mesure qui ne coûte strictement rien à l'utilisateur. Il n'y a pas de raison de vouloir défendre un utilisateur qui aurait utilisé Claude comme un punching ball pour l'humilier, l'insulter, de façon répétée et gratuite. Il y a un coût à peu près nul pour l'utilisateur et potentiellement ça peut avoir des bénéfices pour les modèles. »

Derrière ces mises en garde on éprouve le frisson de se dire qu’une machine pourrait avoir besoin d’attention, avec l'idée sous-jacente qu'une IA bien traitée serait une IA qui se porte mieux et répond mieux à nos interrogations. Un premier pas vers l’anthropomorphisme ? Va-t-on voir émerger de nouveaux dogmes ?

À lire aussiL'IA bientôt hors de contrôle? Les experts démêlent le vrai du faux

« Celui qui est dogmatique n'est pas celui qui dit on ne sait pas, c'est celui qui dit de toute façon, parce que ce sont des machines, ça ne pourra jamais avoir la moindre expérience consciente. Ça, c'est une position qui est totalement dogmatique. Le fait de se soucier de la dimension du bien-être des modèles me semble être intéressant d'un point de vue alignement - s'assurer que les objectifs et le comportement d'un modèle d'IA sont conformes aux valeurs humaines, aux lois et aux intentions de ses concepteurs- car ça peut influencer positivement la façon dont les modèles futurs vont se comporter vis-à-vis de nous. C’est un positionnement beaucoup plus fort chez Anthropic que chez ses concurrents. »

► Consulter la constitution de l'IA Claude : https://www.anthropic.com/constitution