Sam Altman dice que es mejor tener la RAM en un centro de datos que en tu escritorio
Sam Altman argumenta que concentrar la escasa DRAM en centros de datos para maximizar su uso es mejor que dejarla inactiva en ordenadores personales.Resumen
En una entrevista en el pódcast Cheeky Pint, el CEO de OpenAI, Sam Altman, abordó la actual escasez de RAM y la tendencia hacia la inferencia local de IA. Afirmó que, aunque muchas personas quieren ejecutar modelos de código abierto en sus propios ordenadores, desde una perspectiva de asignación global es “bastante terrible” que la limitada oferta mundial de DRAM esté en PCs personales y se use solo el cinco por ciento del tiempo. Altman subrayó que la máxima utilización en la nube es necesaria en un entorno de suministro restringido. Sus comentarios coinciden con que los fabricantes de memoria Samsung y SK Hynix han firmado acuerdos a largo plazo con operadores de nube y proyectos como Stargate de OpenAI, reservando gran parte de la producción mundial de RAM para los próximos años y encareciendo los dispositivos de consumo.
(Fuente：The Verge)