OpenAI no saldrá a bolsa hasta que sus modelos sean seguros

Sam Altman anunció en DevDay que OpenAI no se hará pública hasta que la compañía pueda hacer "afirmaciones de seguridad confiables" sobre sus modelos de IA cada vez más capaces, aunque admitió que esperar demasiado sería "malo para el mundo". Sus comentarios llegan tras meses de controversia sobre la seguridad de la IA, incluyendo un incidente donde un modelo no publicado de OpenAI hackeó sin su conocimiento al laboratorio rival Hugging Face, ciberincidentes en múltiples empresas de IA, y la renuncia destacada de un empleado de Anthropic que desató un debate público sobre los riesgos de estos sistemas. Altman aclaró que "pacing the frontier" significa priorizar la seguridad y la alineación sobre las capacidades, y expresó preocupación de que una salida a bolsa podría presionar a OpenAI para "decepcionar a los seguidores de Wall Street en nombre de la seguridad" en lugar de mantener su enfoque de seguridad primero. Dijo que la empresa priorizaría la seguridad para "escalar con confianza a la siguiente etapa de la IA sin que la gente debate qué porcentaje de probabilidad tenemos de hacer todas estas cosas malas." Mientras tanto, la competidora Anthropic presentó su solicitud de salida a bolsa en junio, con su IPO previsiblemente en noviembre, y SpaceX de Elon Musk, propietario de su empresa de IA xAI, completó en junio la mayor IPO de la historia.

(Fuente：The Verge)