Les efforts pour la sécurité de l’IA nécessiteront plus de puissance de calcul

Investing.com - Contrairement aux craintes des investisseurs selon lesquelles le renforcement des exigences de sécurité pourrait freiner la demande en matériel informatique, les principaux développeurs de modèles frontier présents à l’AI Infra Summit ont révélé que la sécurité et l’alignement de l’IA sont des processus très gourmands en ressources de calcul, susceptibles de stimuler les dépenses d’infrastructure, selon un rapport de recherche de Citi.

Cette conclusion est ressortie du premier jour de la conférence de Santa Clara, où les analystes ont noté que la sécurisation de capacités massives en calcul, en énergie et en infrastructures — plutôt que la seule innovation architecturale des modèles — est devenue le principal goulot d’étranglement du secteur.

Les centres de données de nouvelle génération sont conçus pour accueillir 30 % à 40 % de GPU supplémentaires, tandis que des plateformes d’orchestration logicielle comme Astra et des mises à niveau matérielles comme la plateforme Vera Rubin de Nvidia visent à optimiser le débit des systèmes de bout en bout.

Nvidia souligne une hausse de la demande multipliée par 100 avec l’IA agentique

Lors du sommet, Ian Buck, Vice-Président Hyperscale et HPC de , a expliqué comment le passage des chatbots conversationnels à l’IA autonome dite « agentique » multiplie les besoins en matériel.

Buck a indiqué que les charges de travail agentiques sont environ 100 fois plus exigeantes que les applications de chat de l’ère 2023, citant des expansions exponentielles dans les longueurs de séquences d’entrée, le dimensionnement du cache KV, les interactions multi-tours et la création de sous-agents.

Le repositionnement d’Intel et la vision 5 GW de Meta

Le PDG d’, Lip-Bu Tan, s’est exprimé lors du sommet pour présenter le pivot stratégique du fabricant de puces, qui passe du statut de fournisseur traditionnel de CPU à celui de fournisseur d’infrastructure IA full-stack.

Tan a souligné que, à mesure que la concurrence se déplace de la puissance brute des GPU vers l’optimisation au niveau système, les CPU resteront essentiels pour l’apprentissage par renforcement, les couches d’orchestration et les flux de travail agentiques. Pour accélérer la prise de décision, Tan a aplati la structure managériale d’Intel, réduisant la hiérarchie de 10 à 12 niveaux à seulement 4 à 5.

Sur le plan de la fabrication, Tan a confirmé que le nœud de procédé 18A d’Intel est en production en volume, tandis que le nœud avancé 14A approche de son lancement, soutenu par une version PDK 0,9 attendue en octobre et une version PDK 1,0 au trimestre suivant.

Parallèlement, Santosh Janardhan, responsable des infrastructures de , a détaillé l’expérience de l’entreprise dans le déploiement à grande échelle d’infrastructures d’entraînement massives.

Alors que Meta progresse depuis son cluster « Prometheus » dépassant 1 gigawatt vers son empreinte « Hyperion » de 5 gigawatts dans les années à venir, Janardhan a identifié la mise en réseau multi-régions sans perte comme le principal obstacle opérationnel.

Pour atteindre son objectif de limiter les interruptions de clusters GPU à seulement deux par tranche de 8.000 GPU par jour, Meta a déployé une architecture réseau propriétaire appelée Back-End Aggregation (BAG).

Cet article a été généré et traduit avec l’aide de l’IA et revu par un rédacteur. Pour plus d’informations, consultez nos T&C.