La nueva placa complementaria de Raspberry Pi tiene 8GB de RAM para ejecutar modelos de IA generativa

The Verge
Raspberry Pi lanzó la placa complementaria AI HAT+ 2 de $130 con 8GB de RAM y un chip Hailo 10H para ejecutar modelos de IA generativa en el Raspberry Pi 5.

Resumen

Raspberry Pi ha lanzado la AI HAT+ 2, una nueva placa complementaria de $130 diseñada para permitir que el Raspberry Pi 5 ejecute modelos de IA generativa localmente. Este módulo es una mejora de la versión del año pasado, ahora con 8GB de RAM y un chip Hailo 10H que ofrece 40 TOPS de rendimiento de IA. Una vez conectada, la HAT+ 2 se encarga de las cargas de trabajo relacionadas con la IA, dejando libre la CPU de la placa principal. A diferencia de su predecesora, centrada en el procesamiento de imágenes, la AI HAT+ 2 es compatible con la ejecución de modelos gen AI pequeños como Llama 3.2, DeepSeek-R1-Distill y modelos Qwen, y permite entrenar y ajustar modelos. Las demostraciones mostraron su capacidad para generar descripciones de texto a partir de transmisiones de cámara y traducir texto. Sin embargo, el YouTuber de tecnología Jeff Geerling señaló que un Raspberry Pi 5 independiente de 8GB generalmente superó a la AI HAT+ 2 en los modelos compatibles, atribuyendo el menor rendimiento al límite de consumo de energía de 3W de la HAT+ 2 en comparación con los 10W del Pi 5. Geerling sugirió que los 8GB adicionales de RAM de la placa complementaria podrían no ser suficientes para darle una ventaja sobre simplemente optar por el Raspberry Pi 5 más flexible de 16GB.

(Fuente:The Verge)