Les lecteurs préfèrent des écrits générés par l’IA, quand ils l’ignorent

Des études et des sondages de plus en plus nombreux montrent que les lecteurs préfèrent spontanément des écrits — romans, nouvelles, poèmes — générés par l’intelligence artificielle (IA) à des œuvres créées par des humains. Sauf dans les cas où les lecteurs ont été informés au préalable que ces œuvres ont été produites par une machine.

Paramveer Dhillon, professeur à la School of Information de l’Université du Michigan, est coauteur d’études sur la question des écrits générés par l’IA et de leur incidence sur le marché du livre et sur les droits d’auteur. Le Devoir s’est entretenu par visioconférence avec ce spécialiste de ce phénomène, qui prend de plus en plus d’ampleur et qui se retrouve sous les projecteurs depuis que l’affaire Thélyson Orélien a éclaté.

Dans votre étude, vous avez obtenu des résultats qui confirment que les écrits générés par l’IA sont appréciés, voire préférés par les lecteurs ?

Notre étude montre que, si on poursuit l’entraînement (fine-tuning) des grands modèles de langage (ChatGPT, Claude et Gemini) en leur faisant apprendre l’œuvre complète d’un auteur et qu’on leur demande ensuite d’écrire dans le style de celui-ci, même les lecteurs experts — ayant fait des études poussées en création littéraire — préfèrent les textes générés par ces modèles améliorés à ceux écrits par des auteurs humains, et ce, tant pour le style que pour la qualité de l’écriture.

Qui plus est, ces textes s’avèrent indiscernables des réalisations humaines, et ce, tant par les lecteurs experts que par les détecteurs d’IA, comme Pangram.

Par contre, les lecteurs experts ont reconnu les textes qui avaient été produits par des modèles d’IA à usage général, qui n’avaient pas été affinés, et ils les ont qualifiés de moins réussis que ceux composés par des humains. Les lecteurs moyens quant à eux n’avaient pas distingué les textes générés par l’IA de ceux écrits par des humains.

Comment expliquez-vous le fait que les lecteurs préfèrent les livres générés par l’IA à ceux écrits par des humains ?

Dans notre expérience, les experts en littérature créative arrivaient à imiter certains schémas stylistiques de l’auteur qu’ils pastichaient, mais l’IA y parvenait encore mieux. L’esprit humain n’est pas un ordinateur. Il ne peut mémoriser et énumérer les, disons, 10 000 variations présentes dans les écrits d’un auteur. Un humain qui connaît très bien l’œuvre d’un auteur pourra se souvenir d’une centaine d’entre elles. Les ordinateurs sont vraiment bons en mémorisation et en restitution de ces différents patrons. Et c’est pour cette raison qu’ils s’avèrent meilleurs que les humains.

Vous semblez persuadé que l’écrivain Thélyson Orélien a utilisé massivement l’IA pour écrire son roman C’était ça ou mourir. Qu’est-ce qui vous a convaincu ?

Il y a des indices écrasants indiquant qu’il a utilisé ces modèles à usage général, mais pas les modèles plus sophistiqués, pour produire son roman. Et c’est pourquoi les détecteurs d’IA, comme Pangram, ont réussi à le voir. Il n’est même pas nécessaire de s’en remettre à ces détecteurs, les personnes qui travaillent avec les grands modèles de langage, comme mes collègues et moi, le constatent clairement lors d’un simple test visuel, car les structures de phrases (par exemple, « Pas pour devenir riche, ni pour vivre mieux. Juste pour vivre ») et une poignée d’autres particularités sont très caractéristiques de ce que génèrent ces modèles de langage.

Si on soumet à Pangram un texte pour lequel on a utilisé l’IA dans le but de simplement corriger des fautes de frappe, d’orthographe et de grammaire, il répondra que 5 à 6 % du texte a été généré par l’IA. Un résultat de 92 %, comme celui qu’a reçu le roman, traduit donc un usage massif de l’IA.

Pourquoi n’est-ce pas acceptable d’utiliser l’IA pour écrire ?

Comme le dit le célèbre dicton, « écrire, c’est penser ». Or, si on utilise l’IA pour écrire, on ne sait pas quelle part des idées développées est réellement celle de l’auteur. C’est la raison pour laquelle c’est problématique.

Quelle est l’incidence de ces modèles de langage sur le monde des livres ?

Dans un autre article, nous montrons que, comme l’IA générative a considérablement diminué le coût associé à la production de textes, il est possible de produire un livre de fiction pour un coût presque nul et en beaucoup moins de temps. Des gens ont ainsi pu écrire plus d’une centaine de livres en un an, qu’ils ont publiés à compte d’auteur sans divulguer qu’ils avaient été générés par l’IA. Ces livres, souvent de piètre qualité, inondent le marché du livre sur des plateformes comme Amazon et ils diluent de ce fait le marché pour les créations littéraires d’auteurs humains. Cela signifie plus de concurrence pour la vente des livres d’auteur et plus de difficulté pour les lecteurs à les trouver.

L’autre effet concerne-t-il les droits d’auteur ?

Ces compagnies [comme Anthropic, Open AI, Google] ont numérisé des millions de livres pour entraîner leurs modèles de langage qui, aujourd’hui, produisent des livres qui sont si bons qu’ils sont en voie de remplacer les auteurs qui les ont alimentés. Et comme ces livres générés par l’IA inondent le marché, ils causent un important préjudice aux auteurs originaux, préjudice que les juges doivent reconnaître lors des poursuites.

Quelles règles pourraient diminuer ces répercussions ?

La première est celle de la divulgation du fait que l’IA a été utilisée pour la création du livre qui est publié, un peu comme le fait le bijoutier qui distingue les diamants naturels des diamants de laboratoire qu’il vend. Sinon, les lecteurs achètent un livre sur la base d’impressions trompeuses. La divulgation est nécessaire pour permettre aux lecteurs de choisir, comme il est possible de le faire quand on veut acheter un diamant.

Ou bien, il pourrait exister une certification qui assurerait qu’un livre a bel et bien été écrit par un humain, comme la certification des aliments biologiques qui figure sur certains aliments.