Anthropic rend Claude encore plus rapide… grâce à une technologie de 1992

Claude Code répond plus tôt depuis la mi-octobre. Pour y parvenir, Anthropic a ressorti un outil de compression plus vieux que le Web grand public, que ses propres utilisateurs réclamaient mesures à l’appui depuis la fin de l’été.

Fin août, un développeur déposait une requête argumentée sur le dépôt de Claude Code : l’assistant renvoie l’intégralité de la conversation vers les serveurs à chaque échange, sans jamais la compresser. Le 16 octobre, le compte officiel d’Anthropic destiné aux développeurs a annoncé que c’était désormais chose faite, dans un message vu 2,7 millions de fois. Claude Code compresse la conversation en gzip à chaque tour, et les sessions cloud démarrent dès les premiers caractères saisis.

Lire aussi : Le ChatGPT le plus intelligent peut maintenant répondre 14 fois plus vite – à quoi ça sert ?

Un historique qui repart à chaque message

Un assistant de programmation ne garde pas la discussion en mémoire côté serveur. À chaque nouvelle requête, tout l’historique repart sur le réseau : instructions, code, résultats des commandes précédentes. Sur une longue session de travail, le volume enfle vite, et le texte brut voyage d’autant plus lentement que la connexion est modeste.

Le texte se compresse remarquablement bien, d’autant plus s’il s’agit d’échanges avec un chatbot IA : un historique de conversation regorge de répétitions, noms de fichiers, structures de code, messages système, que l’algorithme encode une fois puis se contente de rappeler. La requête publiée fin août chiffrait le surcoût de calcul à quelques millisecondes par message, trois ordres de grandeur sous le temps de transfert économisé. La porte était d’ailleurs déjà ouverte côté serveur : l’API d’Anthropic acceptait les requêtes compressées sans broncher. L’auteur de la demande en apportait la preuve, avec un petit relais local qui gzippait tout le trafic de ses propres sessions. Il ne manquait que l’envoi par défaut.

L’annonce met des chiffres sur le gain, toutes optimisations confondues depuis le mois d’août. L’attente avant les premiers mots d’une réponse de Claude Code, hors temps de calcul du modèle, a été divisée par trois dans les cas les plus lents, de 4,07 à 1,33 seconde. Les sessions hébergées dans le cloud, préparées pendant la frappe plutôt qu’à l’envoi, tombent de 17 à 6 secondes. L’application grand public gagne un tiers au passage, de 3,36 à 2,17 secondes.

Née en 1992 pour contourner des brevets

gzip est publié le 31 octobre 1992 par Jean-loup Gailly, ingénieur français, et l’Américain Mark Adler. Leur objectif : offrir au monde du logiciel libre un remplaçant au programme compress d’Unix, verrouillé par des brevets. Gailly signe la compression, Adler la décompression, et le programme, contraction de GNU zip, rejoint la boîte à outils du projet GNU. Leur format, Deflate, sera normalisé en 1996 et deviendra l’un des standards les plus discrets et les plus répandus de l’informatique. Il reste aujourd’hui le format de compression le plus répandu du Web, devant ses héritiers plus récents, et les archives .tar.gz qui circulent depuis trente ans sur les serveurs Linux sortent du même outil.

Mark Adler, lui, a ensuite rejoint le laboratoire JPL de la NASA, où il a piloté la phase de croisière du rover martien Spirit. En 2004, c’est lui qui annonçait avoir remis le robot en marche, après avoir fait effacer des milliers de fichiers qui saturaient sa mémoire flash. Bref, une bonne nouvelle pour qui code avec Claude. Et un rappel au passage : les gains de vitesse de l’IA ne sortent pas toujours d’un nouveau modèle ou de serveurs flambant neuf.