Anthropic advierte que está muy cerca de la capacidad RSI, también conocida como IA que se construye a sí misma

En su presentación revisada S-1A, Anthropic reveló que podría estar al borde de la automejora recursiva (RSI), el punto en el que la IA se vuelve tan buena entrenándose a sí misma que sus capacidades se aceleran drásticamente. La compañía añadió nuevas declaraciones de riesgo indicando que ya ha utilizado IA para desarrollar modelos con saltos de capacidad que no reconoció en su momento, y que sus estimaciones internas indican que podría alcanzar inminentemente la definición de su Responsible Scaling Policy de "progreso dramáticamente acelerado atribuible a la IA". Sin embargo, Anthropic afirmó que ningún modelo actual ha cruzado este umbral y prometió mantener a los humanos en el proceso de I+D en el futuro previsible, considerando actualizaciones a su política para mantener el control humano sobre el desarrollo de modelos frontera. Aunque los escépticos señalan que una S-1 sirve tanto para divulgación como para marketing, las capacidades de Claude en programación, matemáticas y ciberseguridad han crecido rápidamente este año, lo que sugiere que la advertencia merece una atención seria.

(Fuente：TechCrunch)