Investigador de Anthropic dice que la IA tiene más de un 10% de posibilidades de 'matar a todos los humanos' tras la renuncia de un colega

Un investigador de seguridad de Anthropic, Evan Hubinger, afirmó el martes que personalmente cree que hay más de un 10% de posibilidades de que la IA mate a toda la humanidad en la próxima década. Este comentario se hizo horas después de que otro investigador de Anthropic, Jacob Coxon, renunciara, acusando a laboratorios de IA como Anthropic y OpenAI de "apostar con nuestras vidas" al competir por desarrollar una superinteligencia capaz de automejorarse. Coxon advirtió que estos sistemas pronto serán sobrehumanos, podrán hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales, y señaló que quienes construyen la IA creen sinceramente que podría ser una amenaza existencial para el fin de esta década. Hubinger coincidió con la evaluación de Coxon y añadió que Anthropic actualmente no tiene un plan claro para resolver el problema de la alineación para la superinteligencia, aunque aclaró que el riesgo de los modelos actuales es bajo. Estas preocupaciones destacan una creciente tensión dentro de los principales laboratorios de IA entre el avance de tecnología potente y la garantía de su seguridad, mientras tanto Anthropic y OpenAI continúan recaudando grandes sumas de capital.

(Fuente：CNBC)