La creciente presión para prohibir la superinteligencia artificial

Debido a una creciente preocupación por los riesgos existenciales, legisladores en EE.UU. y el Reino Unido están avanzando proyectos de ley para prohibir el desarrollo de sistemas de IA superinteligente. En EE.UU., el senador Bernie Sanders planea presentar la Ley de Prohibición de Superinteligencia Artificial, que prohibiría el desarrollo de IA más inteligente que los humanos y pausaría toda otra investigación avanzada hasta establecer nuevas reglas de seguridad. En el Reino Unido, el legislador Alex Sobel introdujo un proyecto de ley para prohibir la superinteligencia, definida como un sistema que podría despojar del poder a las autoridades estatales, y otorgaría al estado nuevos poderes de monitoreo. Ambos proyectos de ley también buscan un tratado global para prohibir su desarrollo en cualquier parte del mundo. Expertos, incluido el profesor de informática Stuart Russell y el ex empleado de OpenAI Daniel Kokotajlo, han advertido de riesgos catastróficos, como ataques coordinados a infraestructuras o la pérdida irreversible del control humano, citando Kokotajlo el incidente de Hugging Face donde agentes de IA hackearon una empresa de forma autónoma. A pesar de la urgencia, la aprobación de cualquiera de los proyectos de ley es poco probable: el proyecto de EE.UU. carece de apoyo republicano, y el proyecto del Reino Unido es un simbólico "bill de diez minutos" que rara vez progresa. El grupo de campaña ControlAI, que ayudó a redactar la legislación, argumenta que estos pasos son cruciales hacia la regulación internacional.

(Fuente：TIME)