Google erweitert TPU-Portfolio mit 8tx und 8i Max für das Zeitalter der KI-Agenten

Google hat sein Portfolio an TPUs der achten Generation um zwei neue Systeme erweitert: die TPU 8tx, ausgerichtet auf sichere und vertrauliche Inferenz, und die TPU 8i Max, konzipiert für massive Kontextfenster und maximale Rechendichte pro Rack. Es ist das erste Mal, dass das Unternehmen vier TPU-Systeme in einem einzigen Jahr auf den Markt bringt.

Die neuen Beschleuniger reagieren auf einen strukturellen Wandel in der Nachfrage nach Rechenleistung. Da Workloads von der menschlichen Skala auf die Skala von KI-Agenten umstellen, benötigen Unternehmen nun Hardware, die über umfangreiche Kontexte schlussfolgern kann und gleichzeitig Sicherheitsgarantien für sensible Daten bietet.

Von der menschlichen Skala zur Agentenskala

Die TPU 8i Max wurde für das konzipiert, was Google „massive Kontextfenster“ nennt – die Fähigkeit eines Modells, gigantische Informationsmengen in einer einzigen Inferenz zu verarbeiten und darüber zu schlussfolgern. Dies ist eine zentrale Anforderung für autonome Agenten, die Erinnerungen an lange Interaktionen aufrechterhalten und umfangreiche Datenbanken abfragen müssen, ohne die Kohärenz zu verlieren.

Die TPU 8tx wiederum adressiert eine spezifische Nachfrage von stark regulierten Kunden, die spezialisierte Verschlüsselungsfunktionen für einzigartige Workloads benötigen. Das System bietet sichere und vertrauliche Inferenz – ein Unterscheidungsmerkmal für Branchen wie Finanzen und Gesundheitswesen, in denen Datenschutz vorgeschrieben ist.

Vier Systeme in einem Jahr

Im April hatte das Unternehmen während der Google Cloud Next bereits die TPU 8t für groß angelegtes Training und die TPU 8i für Echtzeit-Schlussfolgerungen vorgestellt. Die damals veröffentlichten Zahlen waren beeindruckend: bis zu 2,7-mal bessere Trainingsleistung für die 8t und 80 % besseres Kosten-Leistungs-Verhältnis bei der Inferenz für die 8i, beide im Vergleich zur vorherigen Generation.

Mit der Hinzufügung der 8tx und 8i Max schließt Google die achte Generation nun mit vier spezialisierten Systemen ab. Das Unternehmen betont, dass der Unterschied zwischen einem neuen Chip und einem neuen System entscheidend ist: Während ein Chip Jahre des Designs und der Fertigung von Milliarden von Transistoren erfordert, umfasst ein System die Integration von Rechenleistung, Netzwerk und Software in einer kohärenten Konfiguration.

Wachsende Kundenbasis

TPUs sind längst keine reine Internettechnologie mehr. Vor über einem Jahrzehnt entstanden, um die eigenen Anforderungen von Google – wie Spracherkennung und Übersetzung – zu erfüllen, tragen Tensor Processing Units heute ein schnell wachsendes Geschäft mit fast 100 Kunden, darunter Frontier-Labore, Handelsfirmen, Einzelhändler und Universitäten.

Ein Teil dieses Wachstums resultiert aus der Möglichkeit für Kunden, TPUs direkt in ihren eigenen Rechenzentren einzusetzen. Google hat den Zugang auch durch Software-Updates erweitert, wie die jüngsten Ankündigungen zu PyTorch und der XLA Serving Engine, die die Architektur für Entwickler zugänglicher machen sollen.

Die Strategie kombiniert modulares, kundenspezifisches Silizium mit einem offenen und benutzerfreundlichen Software-Stack, sodass das Unternehmen neue Hardware und Systemkonfigurationen im Tempo der KI-Branche einführen kann. Angesichts der steigenden Nachfrage nach Agenten und massiven Kontexten signalisiert die achte TPU-Generation, dass das Rennen um die Inferenzinfrastruktur gerade erst beginnt.