Niv-AI sale del sigilo para exprimir más rendimiento de energía de las GPU
Resumen
La electricidad es un cuello de botella clave para la IA, y los centros de datos a menudo limitan el uso de GPU hasta en un 30% debido a dificultades de gestión de energía causadas por picos de demanda de energía a escala de milisegundos. Niv-AI, una startup con sede en Tel Aviv, ha salido del sigilo con $12 millones en financiación inicial para abordar esta ineficiencia. La compañía está implementando sensores a nivel de rack para medir el uso de energía de la GPU con precisión de milisegundos para comprender los perfiles de energía específicos. Niv-AI planea usar estos datos para construir un modelo de IA, actuando como un "copiloto" para predecir y sincronizar las cargas de energía en todo el centro de datos, creando en última instancia una "capa de inteligencia" faltante entre los centros de datos y la red eléctrica. Esto tiene como objetivo ayudar a los centros de datos a utilizar más de la energía por la que ya están pagando, mientras se crean perfiles de energía más responsables para la red.
(Fuente:TechCrunch)