Una hoja de ruta para la IA, si alguien escucha

Ante la falta de reglas coherentes que gobiernen la inteligencia artificial en Washington, una coalición bipartidista de expertos, exfuncionarios y figuras públicas ha reunido y finalizado la Declaración Pro-Humana. Este documento establece que la humanidad se encuentra en una encrucijada: un camino donde los humanos son suplantados por sistemas de máquinas no responsables, y otro donde la IA expande masivamente el potencial humano.

El marco se basa en cinco pilares clave para el escenario positivo: mantener a los humanos a cargo, evitar la concentración de poder, proteger la experiencia humana, preservar la libertad individual y hacer legalmente responsables a las empresas de IA. Entre sus disposiciones más firmes se incluye la prohibición explícita del desarrollo de superinteligencia hasta que exista consenso científico sobre su seguridad y una genuina aceptación democrática; interruptores de apagado obligatorios en sistemas potentes; y la prohibición de arquitecturas capaces de autorreplicación, auto-mejora autónoma o resistencia al apagado.

La urgencia de la declaración se vio amplificada por la reciente disputa entre el Pentágono y Anthropic, lo que expuso el alto costo de la inacción del Congreso. El organizador Max Tegmark sugiere que el punto de presión más probable para lograr cambios regulatorios es la seguridad infantil, proponiendo pruebas obligatorias antes del despliegue para aplicaciones dirigidas a jóvenes. Él cree que una vez que se establezca el principio de prueba previa para productos infantiles, el alcance inevitablemente se ampliará para cubrir riesgos mayores, como la prevención de que la superinteligencia derroque al gobierno de EE. UU. El amplio respaldo a la declaración, que incluye figuras de todo el espectro político, subraya un acuerdo fundamental sobre la necesidad de priorizar el futuro humano sobre el de las máquinas.

(Fuente：TechCrunch)