Apoyo a la investigación sobre IA y la seguridad de los niños

En el Foro de Paz de París, OpenAI firmó la Carta de Compromiso para una IA más Segura para los Niños y se comprometió a aportar 2 millones de dólares para apoyar la red de investigación científica de la Coalición por los Derechos y la Protección de los Niños en la Era de la IA. La contribución respaldará el trabajo de medición compartida: el desarrollo de herramientas que los investigadores puedan usar para comprender y medir mejor los riesgos y las oportunidades de la IA para los niños, contribuyendo a productos más seguros y mejores políticas. La carta establece principios compartidos para una IA segura y adecuada a la edad, junto con un programa de investigación y salvaguardias para su independencia: los equipos de investigación mantienen el control sobre sus conclusiones y los hallazgos se publicarán, incluidos los resultados negativos o no concluyentes. OpenAI señala que este trabajo se basa en su apoyo a una legislación integral sobre seguridad de la IA para jóvenes que establezca protecciones sólidas y exigibles, salvaguardias adecuadas a la edad por defecto, herramientas para los padres, evaluaciones y mitigación de riesgos periódicas y una rendición de cuentas significativa. OpenAI espera colaborar con los responsables de políticas europeos mientras se desarrolla la EU Kids Act y con socios de todo el mundo.

(Fuente：OpenAI)