Anthropic advierte que la IA pronto podrá mejorarse a sí misma sin intervención humana
CNN
Ejecutivos de Anthropic advierten que la IA podría mejorar autónomamente pronto, haciendo necesario implementar mecanismos de seguridad para evitar perder el control.Resumen
Jack Clark, cofundador de Anthropic, y la investigadora Marina Favaro advierten que los sistemas de IA están cerca de alcanzar la 'mejora recursiva completa', permitiéndoles crear sucesores sin ayuda humana. Aunque reconocen los beneficios potenciales para la ciencia y la salud, señalan riesgos graves, como la pérdida de control humano sobre los sistemas. Ante la falta de un 'pedal de freno' en la industria, proponen que las empresas compitan menos y colaboren más en materia de seguridad, comparando el desafío con los esfuerzos de control de armas nucleares durante la Guerra Fría.
(Fuente：CNN)