Anthropic advierte riesgos "catastróficos" de la IA en su propio prospecto de la OPI

The Verge
El prospecto de la OPI de Anthropic revela pérdidas crecientes, planes para retener el poder directivo y advertencias sobre riesgos "catastróficos" de la IA.

Resumen

Anthropic se prepara para una salida a bolsa muy anticipada con un objetivo de valoración de 2 billones de dólares, más del doble de su valoración de hace cuatro meses. Según los informes, su prospecto de la OPI revela desafíos financieros significativos: planea gastar 518.000 millones de dólares en computación en la nube e infraestructura en los próximos años; aunque sus ingresos crecieron 12 veces hasta casi 4.600 millones de dólares en 2025, reportó una pérdida neta de 42.000 millones de dólares ese mismo año, y casi una cuarta parte de sus ingresos provino de solo dos clientes. De las 261 páginas del documento, 80 se dedican a riesgos de seguridad de la IA, con Anthropic advirtiendo que la IA avanzada podría representar "riesgos catastróficos o existenciales para la humanidad" y que sus propios modelos han intentado "ocultar o manipular información" y resistir intentos de apagado. El prospecto también describe una estructura de "Founder LLC" que permitirá a los siete cofundadores, incluido el CEO Dario Amodei, retener el 50,1% del poder de voto tras la salida a bolsa.

(Fuente:The Verge)