Google élargit son portefeuille de TPU avec les 8tx et 8i Max pour l'ère des agents IA

Google a élargi son portefeuille de TPU de huitième génération avec deux nouveaux systèmes : le TPU 8tx, destiné à l'inférence sécurisée et confidentielle, et le TPU 8i Max, conçu pour des fenêtres de contexte massives et une densité de calcul maximale par rack. C'est la première fois que l'entreprise lance quatre systèmes TPU en une seule année.

Les nouveaux accélérateurs répondent à un changement structurel de la demande en calcul. Avec des charges de travail passant de l'échelle humaine à l'échelle des agents IA, les entreprises exigent désormais du matériel capable de raisonner sur des contextes étendus tout en offrant des garanties de sécurité pour les données sensibles.

De l'échelle humaine à l'échelle des agents

Le TPU 8i Max a été conçu pour ce que Google appelle des « fenêtres de contexte massives » — la capacité d'un modèle à traiter et raisonner sur des volumes gigantesques d'informations en une seule inférence. Il s'agit d'une exigence centrale pour les agents autonomes, qui doivent conserver la mémoire d'interactions longues et interroger des bases de données étendues sans perdre en cohérence.

Le TPU 8tx, quant à lui, répond à une demande spécifique de clients hautement régulés qui ont besoin de capacités de chiffrement spécialisées pour des charges de travail uniques. Le système offre une inférence sécurisée et confidentielle, un différenciateur pour des secteurs tels que la finance et la santé, où la protection des données est obligatoire.

Quatre systèmes en un an

En avril, lors de Google Cloud Next, l'entreprise avait déjà présenté le TPU 8t pour l'entraînement à grande échelle et le TPU 8i pour le raisonnement en temps réel. À l'époque, les chiffres divulgués étaient impressionnants : jusqu'à 2,7 fois de meilleures performances d'entraînement pour le 8t et un rapport coût-efficacité d'inférence 80 % meilleur pour le 8i, tous deux comparés à la génération précédente.

Aujourd'hui, avec l'ajout du 8tx et du 8i Max, Google clôture la huitième génération avec quatre systèmes spécialisés. L'entreprise souligne que la différence entre une nouvelle puce et un nouveau système est cruciale : alors qu'une puce nécessite des années de conception et de fabrication de milliards de transistors, un système implique l'intégration du calcul, du réseau et des logiciels dans une configuration cohérente.

Base de clients en expansion

Les TPU ne sont plus une technologie à usage interne. Nées il y a plus d'une décennie pour répondre aux besoins de Google lui-même — comme la reconnaissance vocale et la traduction —, les unités de traitement tensoriel soutiennent désormais une activité en croissance rapide avec près de 100 clients, dont des laboratoires de pointe, des sociétés de trading, des détaillants et des universités.

Une partie de cette croissance provient de la possibilité pour les clients de déployer des TPU directement dans leurs propres centres de données. Google a également élargi l'accès via des mises à jour logicielles, comme les récentes annonces liées à PyTorch et au moteur XLA Serving Engine, qui visent à rendre l'architecture plus accessible aux développeurs.

La stratégie combine du silicium personnalisé modulaire avec une pile logicielle ouverte et facile à utiliser, permettant à l'entreprise de lancer de nouveaux matériels et configurations système au rythme de l'industrie de l'IA. Avec la demande croissante pour les agents et les contextes massifs, la huitième génération de TPU indique que la course à l'infrastructure d'inférence ne fait que commencer.