¿Puede Anthropic permitirse poner la seguridad primero?

The Verge
La OPI de Anthropic plantea dudas sobre si puede equilibrar su misión de seguridad con las demandas de los accionistas y los enormes costos de computación.

Resumen

Anthropic, el laboratorio de IA detrás de Claude, salió a bolsa en el Nasdaq, convirtiéndose en el primer laboratorio de IA puro en hacerlo. La OPI fue un éxito masivo, creando muchos nuevos millonarios y valorando a la empresa entre las más valiosas del planeta. Sin embargo, el evento plantea preguntas críticas sobre el futuro de Anthropic. La compañía tiene una estructura de gobierno corporativo única diseñada para aislar a sus fundadores y a un Fideicomiso de Beneficio a Largo Plazo especial de la presión de los accionistas, aparentemente para priorizar la seguridad de la IA. Pero como empresa pública, Anthropic ahora enfrenta una intensa presión para generar ganancias y crecimiento de ingresos para financiar sus enormes costos de computación, estimados en $900 mil millones en los próximos años. Esto crea una tensión fundamental entre su marca centrada en la seguridad y las demandas orientadas a las ganancias del mercado público. Los expertos sugieren que la necesidad de comprar suficiente capacidad de computación para entrenar nuevos modelos y soportar la inferencia será la principal restricción en el comportamiento de Anthropic. La compañía está tratando de construir un foso alrededor de su negocio fomentando la dependencia de los clientes de sus modelos y comercializándose como la alternativa segura y confiable, especialmente para clientes empresariales. Sin embargo, competidores como Microsoft están impulsando que los modelos de IA sean fungibles y baratos, lo que podría socavar la estrategia de Anthropic. El artículo también traza paralelismos con el reciente escándalo de gobierno corporativo de Nvidia, señalando que a diferencia de la estructura de junta tradicional de Nvidia, los fundadores de Anthropic tienen un control esencialmente ilimitado, lo que podría llevar a racionalizar las medidas de seguridad en nombre de ganar la carrera de la IA. La verdadera prueba llegará en futuros informes de ganancias, donde pueden surgir signos de iniciativas de seguridad dejadas de lado u otros compromisos.

(Fuente:The Verge)