TPU 8tx y TPU 8i Max completan la familia de octava generación de Google: la empresa presentó hoy, 9 de noviembre, los dos sistemas nuevos y cerró el año con cuatro TPU anunciados en doce meses, algo que no había hecho en más de una década fabricando estos chips.
El detalle fino importa. Ninguno de los dos estrena un diseño de silicio desde cero: Google construyó cada sistema alrededor de chips ya presentados en abril, cambiando el empaque, la red, la memoria y la seguridad que rodea al procesador. La apuesta es entregar hardware especializado en meses, no en años.
En abril, en Google Cloud Next, llegaron el TPU 8t para entrenar modelos enormes y el TPU 8i para razonamiento en tiempo real, con hasta 2,7 veces más rendimiento de entrenamiento y un 80 % mejor costo por inferencia frente a la generación anterior, cifras publicadas por la propia Google.
El movimiento ya venía calentando el mercado: en octubre, la compra de capacidad TPU por parte de OpenAI puso estos chips en el centro de la pelea con Nvidia.
TPU 8tx protege el dato también mientras se procesa
Un dato cifrado viaja protegido y duerme protegido en el disco, pero queda al descubierto en la memoria en el instante en que el modelo lo procesa. Para un banco, un hospital o una agencia de gobierno, ese instante basta para frenar un proyecto entero: el regulador pregunta justo por ese hueco.
TPU 8tx ataca ese hueco desde el hardware. Usa el mismo silicio del TPU 8t, trabaja con procesadores anfitriones AMD EPYC de quinta generación y mantiene datos sensibles y pesos del modelo protegidos y aislados durante el uso activo.
Google le sumó la red Boardfly de baja latencia, la misma creada para el razonamiento en tiempo real, y promete hasta la mitad de latencia que un TPU 8t, con una penalidad de rendimiento casi nula.
Con esa base, una organización puede ajustar un modelo con sus datos privados, destilar un modelo grande en uno más chico y entrenar agentes con aprendizaje por refuerzo sin mudar la información delicada entre clústeres separados. Entrenar y servir quedan en el mismo sistema confidencial, y cada traslado que desaparece es una puerta menos para vigilar.
TPU 8i Max junta dos chips contra el muro de memoria
El segundo sistema pelea con otro límite, uno menos visible. Cuando decenas de agentes revisan una base de código completa o horas de video al mismo tiempo, el freno deja de ser la potencia de cálculo y pasa a ser el ancho de banda de memoria: los chips esperan datos en vez de trabajar.
La respuesta de Google fue física: dos chips TPU 8i dentro de un solo paquete.
El TPU 8i Max entrega el doble de cómputo, el doble de memoria SRAM (la memoria rápida integrada en el chip) y el doble de ancho de banda de memoria de alta velocidad HBM que un TPU 8i solo, y mete el doble de silicio en el mismo espacio de bastidor, con más potencia por metro cuadrado y por vatio.
Ese diseño nació pegado a Gemini, el modelo insignia de la casa, que trabaja con contextos de un millón de tokens: cerca de 750.000 palabras de una sola vez, unas 1.500 páginas. Una ventana así deja de ser un truco de demostración cuando los agentes mantienen vivo todo ese contexto durante tareas largas de código, audio o video.
El hardware llegó acompañado de software abierto. Google liberó TorchTPU en código abierto el mes pasado, de modo que el código en PyTorch y los modelos de Hugging Face corren de forma nativa en TPU sin reescrituras, con soporte para motores de inferencia de código abierto como vLLM y SGLang.
Para los agentes que esperan, hay otra pieza con nombre propio: Agent Compute Engine suspende en milisegundos las sesiones ociosas y mueve su memoria fuera del chip mientras el agente aguarda una base de datos, una herramienta externa o una respuesta humana.
TPU Sync, también liberado en código abierto, ordena la memoria entre el chip, la máquina anfitriona y la red, y Google le atribuye recortes superiores al 90 % en el tiempo hasta el primer token en contextos largos.
Para una empresa hispana que ya paga Google Cloud, el mensaje práctico queda en dos líneas: hay una ruta de hardware pensada para correr agentes sobre datos regulados sin sacarlos de un entorno blindado, y otra para sostener contextos enormes sin cambiar de proveedor. La competencia con Nvidia se traslada así del chip más rápido al sistema que menos fricción pone a cada tipo de trabajo.
Quedan dos huecos concretos en el anuncio de hoy: Google no publicó precio ni fecha de disponibilidad para TPU 8tx ni para TPU 8i Max. La familia de octava generación queda cerrada con cuatro papeles repartidos (entrenamiento, razonamiento, confidencialidad y contexto masivo) y una base de casi 100 clientes de TPU entre laboratorios, firmas financieras, comercios y universidades.
Fuente: Google
