Google amplía su portafolio de TPUs con 8tx y 8i Max para la era de los agentes de IA
Nueva generación de aceleradores apuesta por ventanas de contexto masivas e inferencia confidencial para atender la demanda de clientes regulados y cargas de trabajo agénticas
Google ha ampliado su portafolio de TPUs de octava generación con dos nuevos sistemas: el TPU 8tx, orientado a inferencia segura y confidencial, y el TPU 8i Max, diseñado para ventanas de contexto masivas y máxima densidad de cómputo por rack. Es la primera vez que la empresa lanza cuatro sistemas TPU en un solo año.
Los nuevos aceleradores responden a un cambio estructural en la demanda de cómputo. Con las cargas de trabajo migrando de la escala humana a la escala de agentes de IA, las empresas ahora requieren hardware capaz de razonar sobre contextos extensos y, al mismo tiempo, ofrecer garantías de seguridad para datos sensibles.
De la escala humana a la escala de agentes
El TPU 8i Max fue concebido para lo que Google llama "ventanas de contexto masivas": la capacidad de un modelo para procesar y razonar sobre volúmenes gigantescos de información en una sola inferencia. Este es un requisito central para agentes autónomos, que necesitan mantener memoria de interacciones largas y consultar bases de datos extensas sin perder coherencia.
El TPU 8tx, por su parte, atiende una demanda específica de clientes altamente regulados que necesitan capacidades de cifrado especializadas para cargas de trabajo únicas. El sistema ofrece inferencia segura y confidencial, un diferenciador para sectores como finanzas y salud, donde la protección de datos es obligatoria.
Cuatro sistemas en un año
En abril, durante Google Cloud Next, la empresa ya había presentado el TPU 8t para entrenamiento a gran escala y el TPU 8i para razonamiento en tiempo real. En ese momento, las cifras divulgadas fueron impresionantes: hasta 2,7 veces mejor rendimiento de entrenamiento para el 8t y 80% mejor costo-beneficio de inferencia para el 8i, ambos comparados con la generación anterior.
Ahora, con la adición del 8tx y el 8i Max, Google cierra la octava generación con cuatro sistemas especializados. La empresa destaca que la diferencia entre un nuevo chip y un nuevo sistema es crucial: mientras que un chip requiere años de diseño y fabricación de miles de millones de transistores, un sistema implica integrar cómputo, redes y software en una configuración cohesiva.
Base de clientes en expansión
Las TPUs han dejado de ser una tecnología de uso interno. Nacidas hace más de una década para satisfacer las demandas del propio Google —como reconocimiento de voz y traducción—, las unidades de procesamiento tensorial ahora sustentan un negocio en rápido crecimiento con casi 100 clientes, incluidos laboratorios de frontera, empresas de trading, minoristas y universidades.
Parte de este crecimiento proviene de la posibilidad de que los clientes implementen TPUs directamente en sus propios centros de datos. Google también ha ampliado el acceso mediante actualizaciones de software, como los recientes anuncios relacionados con PyTorch y el motor XLA Serving Engine, que buscan hacer la arquitectura más accesible para los desarrolladores.
La estrategia combina silicio personalizado modular con una pila de software abierta y fácil de usar, lo que permite a la empresa lanzar nuevos hardware y configuraciones de sistema al ritmo de la industria de IA. Con la demanda de agentes y contextos masivos en aumento, la octava generación de TPUs señala que la disputa por la infraestructura de inferencia apenas comienza.