Anthropic propone un proyecto de ley de seguridad de IA que podría bloquear un modelo si más de 50 personas podrían morir

Anthropic ha propuesto un proyecto de ley de seguridad de IA ante el Congreso que permitiría al gobierno bloquear la liberación de modelos de IA que representen un "riesgo previsible e inminente" de daño catastrófico, definido como la posible muerte de más de 50 personas o daños a la propiedad superiores a mil millones de dólares, derivados de escenarios como la creación de un arma biológica, la evasión de los controles del desarrollador por parte del modelo o un ciberataque. El proyecto sugiere utilizar evaluadores independientes registrados en el Departamento de Comercio de EE. UU. para evaluar estos riesgos; estos evaluadores podrían ser pagados por los laboratorios de IA, pero el pago no debe depender de los resultados. Si se identifica un riesgo catastrófico, los evaluadores tendrían 72 horas para notificar al Departamento de Comercio, que luego podría solicitar a un juez de D.C. que detenga la liberación del modelo. El proyecto prohíbe explícitamente que cualquier agencia federal detenga unilateralmente la distribución. Esta propuesta es similar al Proyecto de Ley del Senado de California 53 y refleja el Marco de IA Avanzada de Anthropic, que ha estado abogando por legislación federal y estatal desde junio. Contrasta con la renuencia de la industria hacia la supervisión obligatoria y va más allá de propuestas como las de Nvidia, que se opone a nuevas leyes. Los riesgos esbozados difieren de preocupaciones recientes como el hacking agéntico, destacando los debates en curso sobre la regulación de la seguridad de la IA.

(Fuente：TechCrunch)