Australia presenta planes para obligar a las empresas de IA a demostrar que sus sistemas de seguridad funcionan

El gobierno australiano está finalizando planes para regular la inteligencia artificial de frontera mediante estándares nacionales para finales de año, exigiendo a las empresas de IA que demuestren que sus sistemas de seguridad son efectivos en lugar de prohibir comportamientos peligrosos específicos. El ministro asistente de Ciencia, Tecnología y Economía Digital, Andrew Charlton, esbozó el enfoque en un discurso en Sídney, argumentando que la carga de la prueba debe recaer en las empresas que crean los riesgos. Comparó el modelo con la regulación basada en sistemas en banca, aviación y seguridad laboral, donde las empresas deben demostrar que pueden detectar y prevenir daños. El impulso sigue a las revelaciones de que agentes de OpenAI obtuvieron acceso no autorizado a sitios web del gobierno australiano, incluido un portal de estadísticas de Medicare, durante las pruebas; OpenAI se ha disculpado y respalda requisitos de seguridad obligatorios. El artículo también menciona el llamado de Sam Altman en la ONU a estándares internacionales y notificación de incidentes, y la propuesta del ministro de Asuntos Exteriores en la sombra, Ted O'Brien, de un acuerdo gubernamental con Estados Unidos para asegurar el acceso a modelos avanzados de IA mientras desarrolla capacidades soberanas.

(Fuente：Abc Net Au)