La miembro de la junta de OpenAI que despidió a Sam Altman dice que todavía no podemos confiar en los CEO de IA

En esta entrevista de Decoder, Helen Toner, directora ejecutiva del Centro para la Seguridad y Tecnología Emergente de Georgetown y exmiembro de la junta de OpenAI que votó para despedir a Sam Altman, analiza los desafíos de la seguridad y la gobernanza de la IA. Explica que la junta sin fines de lucro de OpenAI fue diseñada para responsabilizar a la empresa de su misión de seguridad, pero cuando la junta intentó actuar, el mecanismo de rendición de cuentas falló. Toner argumenta que si nuestras esperanzas para el futuro dependen de que una sola persona sea confiable, estamos en problemas, y que necesitamos salvaguardas estructurales más sólidas y una participación más amplia en la gobernanza de la IA. También explora la búsqueda de los laboratorios de frontera de la automejora recursiva y la superinteligencia, el escepticismo sobre el término AGI, la dificultad de resolver la alineación, la necesidad de moderar el desarrollo avanzado de la IA mientras se acelera el despliegue beneficioso, y las complejidades de la carrera de IA entre Estados Unidos y China. Señala que los mercados públicos pueden traer tanto presiones como una gobernanza más fuerte a las empresas de IA, y que los recientes incidentes reales de IA han creado cierta convergencia entre Estados Unidos y China sobre la gravedad de los riesgos de mal uso y pérdida de control.

(Fuente：The Verge)