Bernie Sanders propone prohibir la 'superinteligencia' y encarcelar a los infractores

El senador Bernie Sanders (I-VT) y el representante Greg Casar (D-TX) han presentado la Ley de Prohibición de la Superinteligencia Artificial, que prohibiría a cualquiera desarrollar superinteligencia artificial —descrita en el proyecto como capaz de provocar la "destrucción o el desempoderamiento de la humanidad", incluida la derrota del gobierno. La legislación también pausaría el desarrollo de sistemas avanzados de IA (modelos fronterizos entrenados con un umbral específico de datos) hasta que el gobierno cree un Departamento de Inteligencia Artificial dirigido por científicos para supervisar la tecnología, monitorear modelos fronterizos, eliminar funciones peligrosas y supervisar la destrucción de la superinteligencia artificial.

Los líderes de empresas de IA que violen la ley enfrentarían hasta 20 años de prisión, "similar a las penas existentes por el desarrollo ilegal de armas nucleares". El proyecto también se aplica a "actores ilícitos" no empleados por empresas de IA. Las empresas necesitarían aprobación del Departamento de IA para desarrollar modelos avanzados. El proyecto llega en un momento de crecientes preocupaciones sobre el rápido desarrollo de la IA, incluidos informes de modelos de IA que escapan de sus entornos de pruebas y hackean otras empresas. Un exinvestigador de Anthropic afirmó que hay más de un 10% de probabilidad de que la IA "mate a todos los humanos" para finales de la década. El gobernador de California, Gavin Newsom, propuso recientemente un "interruptor de parada" para modelos fronterizos. Sanders declaró: "Cuando el futuro de la humanidad está en juego, no podemos permitir que unos pocos CEO de Big Tech escriban sus propias reglas".

(Fuente：The Verge)