Google amplía su cartera de hardware de IA con dos nuevos chips especializados

TechCrunch
Google presentó dos nuevos chips TPU, TPU 8tx y TPU 8i Max, ampliando su hardware de IA para inferencia confidencial y cargas de trabajo grandes.

Resumen

Google ha ampliado su línea de silicio personalizado con dos nuevas unidades de procesamiento tensorial (TPU) dirigidas a cargas de trabajo de IA especializadas. El TPU 8tx, desarrollado con AMD, está diseñado para entrenamiento e inferencia confidenciales, incorporando seguridad directamente en la capa de hardware para proteger datos sensibles y pesos de modelos incluso durante su uso activo. También cuenta con una red de inferencia personalizada que permite ejecutar razonamiento junto con el entrenamiento, de modo que puede destilar y entrenar modelos pequeños sobre la marcha; según Google, esto podría ser útil para empresas que quieran entrenar un modelo con sus datos propietarios sin tener que moverlos entre dispositivos. Por su parte, el TPU 8i Max combina dos de los chips TPU 8i centrados en inferencia lanzados en abril en un solo paquete, duplicando la capacidad de memoria, la potencia de procesamiento y el ancho de banda para que los modelos de IA manejen una gama más amplia de información durante las consultas. Ambos chips forman parte de la octava generación de TPU presentada en abril. El lanzamiento se produce mientras hiperescaladores como Microsoft y Amazon, junto con laboratorios de IA como OpenAI y Anthropic, desarrollan sus propios semiconductores específicos para IA con el fin de reducir su dependencia de Nvidia, que atraviesa un momento especialmente vulnerable después de que su CEO, Jensen Huang, admitiera una aventura con alguien presuntamente espía chino.

(Fuente:TechCrunch)