Investigadores de IA publican vídeos diciendo que la superinteligencia es "exactamente tan peligrosa como suena"
Una organización sin ánimo de lucro recopiló entrevistas con investigadores de IA que advierten que la superinteligencia podría causar la extinción humana.Resumen
Palisade Research, una organización sin ánimo de lucro dedicada al estudio de las capacidades y motivaciones de la IA, recopiló y publicó una docena de entrevistas en vídeo con investigadores de IA, incluidos empleados actuales y anteriores de OpenAI, Google y Anthropic, que advierten que la superinteligencia artificial podría provocar la extinción humana. Los vídeos están alojados en frominside.ai. Geoffrey Irving, ex empleado de OpenAI y Google DeepMind, estimó la probabilidad de extinción humana en "aproximadamente un lanzamiento de moneda", mientras que el científico de Google DeepMind Neel Nanda afirmó que hay "al menos un 10% de probabilidad de que cause la extinción humana, y eso es ridículamente alto". Daniel Kokotajilo, ex investigador de OpenAI, afirmó que la superinteligencia "sería básicamente tan poderosa como un dios" y advirtió: "desafortunadamente, no sabemos controlarla en absoluto. Así que probablemente nadie la controlará. Esto es exactamente tan peligroso como suena y no debe permitirse que ocurra". Los vídeos también abordan si todo esto es simplemente propaganda o marketing, y por qué los investigadores continúan con su trabajo creyendo que es tan peligroso. Algunos investigadores reconocieron sus vínculos financieros con los laboratorios que critican, con la investigadora de Google Mary Phuong diciendo que "deberías ser escéptico de lo que digo, porque me pagan en el laboratorio", mientras que Nanda explicó que renunciaría si no creyera que su trabajo estaba reduciendo los riesgos existenciales.
(Fuente：The Verge)