TorchNeuron y los chips Trainium de Amazon abren hoy, 20 de octubre, su beta pública: cualquier programa escrito en PyTorch corre en el silicio de Amazon con un solo cambio de ajuste, sin reescribir el código. El anuncio se hizo el 19 de octubre y la liberación abierta llegó durante la Conferencia PyTorch de América del Norte, en San José, California, con licencia Apache 2.0 y el código abierto publicado en GitHub.
El cambio cabe en una instrucción. Donde el programa enviaba el modelo a una tarjeta gráfica, ahora lo manda al dispositivo llamado neuron, y el resto queda intacto: el ciclo de entrenamiento, las bibliotecas de siempre y las herramientas de depuración que cada equipo ya domina. El blog oficial de PyTorch publicó la documentación completa y presentó TorchNeuron como un componente nativo que registra a Trainium como un dispositivo estándar del entorno.
Una línea de ajuste contra una década de ventaja de Nvidia
La pelea no es por el chip más rápido en una tabla. Es por el costo de cambiarse. Amazon informó que cerca del 85 % de quienes investigan y desarrollan inteligencia artificial escriben su código en PyTorch, y ese código nació pegado a CUDA, la plataforma de programas de Nvidia que lleva más de una década integrándose con PyTorch paso a paso. Cada biblioteca y cada receta de entrenamiento se probó primero en tarjetas de Nvidia, y mover ese trabajo a otro silicio pedía semanas de adaptación manual.
Con Trainium pasaba igual. Antes de esta beta, correr un proyecto de PyTorch en los chips de Amazon exigía reescribir partes del programa para llamar a las interfaces específicas de Neuron, el paquete de programas de la casa. TorchNeuron elimina esa traducción: el código escrito con las interfaces neutras de PyTorch, pensadas para no depender de un fabricante, corre sin modificación, y el código compilado solo necesita nombrar el componente una vez. Jana van Greunen, directora de ingeniería de PyTorch en Meta, lo resumió en el anuncio oficial: los desarrolladores deben tener una experiencia consistente en cualquier plataforma de cómputo, y el soporte nativo para Trainium amplía esa elección sin obligar a nadie a reinventar su forma de trabajar.
Amazon empujó la idea hasta el propio PyTorch. La compañía aportó cambios al proyecto común para retirar supuestos fijos de CUDA que quedaban escritos en el código base, un detalle técnico con lectura clara: si el entorno deja de dar por sentado que debajo hay una tarjeta de Nvidia, cualquier chip nuevo entra a competir con menos fricción. Google trabaja en una dirección parecida con sus propios aceleradores, y esa presión compartida explica la defensa de Nvidia: su ventaja vive en los programas y en el silicio a partes iguales.
Qué trae TorchNeuron y chips Trainium de Amazon por dentro
La beta cubre Trainium2 y Trainium3 y trae los dos modos de ejecución de PyTorch. El modo inmediato, pensado para investigar y depurar, corre cada operación al momento y estrena una variante experimental que agrupa operaciones para acercarse al rendimiento del modo compilado. El modo de compilación captura el modelo completo y lo optimiza para producción. Para quien necesita bajar al detalle, la interfaz de núcleos Neuron Kernel Interface permite escribir operaciones a medida, y el explorador Neuron Explorer enlaza cada evento de rendimiento con su línea de código para localizar atascos.
El entrenamiento repartido entre muchos chips usa las interfaces distribuidas de siempre, con paralelismo de datos, de tensores y de tubería. Hugging Face sumó a Trainium como dispositivo nativo en sus bibliotecas Transformers y Diffusers, de modo que los modelos de su catálogo público corren sin código específico de Amazon. El equipo de PyTorch probó el componente con 100.000 modelos de Hugging Face que cubren el 99,9 % del uso real medido por descargas, y corre esa barrida de forma continua para cazar incompatibilidades.
Trainium3, precios por dólar y los primeros clientes
SiliconANGLE detalló el músculo del Trainium3: ocho núcleos de cómputo, 154 GB de memoria integrada y servidores con hasta 144 aceleradores que rinden 362 petaflops en formato MXFP8, un formato numérico reducido común en modelos de lenguaje. Los nombres con resultados ya medidos dan la pista del argumento comercial. Deepgram, que procesa audio para más de 200.000 desarrolladores y 1.400 organizaciones, contó que Trainium procesa cerca de un 60 % más segundos de audio por dólar que sus tarjetas gráficas actuales. Cartesia, de voz conversacional, movió su canal de inferencia completo con cambios mínimos en su código PyTorch, y el Instituto Lieber para el Desarrollo Cerebral lo usa en modelos de descubrimiento de fármacos y dinámica molecular. Amazon habla de más de 30 clientes tempranos entre robótica, modelos de mundo y voz artificial.
La beta llega con tarea pendiente, y el propio anuncio la admite. La precisión FP8 y parte de las herramientas de cuantización siguen en beta privada hasta la próxima versión; quedan operadores sin versión nativa para Trainium, tensores dispersos fuera del alcance de esta primera entrega y formas dinámicas sin soporte. Probar TorchNeuron y los chips Trainium de Amazon cuesta hoy una línea de ajuste, pero cada equipo tendrá que validar su modelo, medir su rendimiento real y contar su factura antes de mover producción. El 20 de octubre queda como la fecha en que probar el silicio de Amazon dejó de ser un proyecto de ingeniería para convertirse en una tarde de pruebas.
Fuente: PyTorch
Foto: PyTorch
Descubre más desde Tecnología Geek
Suscríbete y recibe las últimas entradas en tu correo electrónico.
