Investigador de seguridad de IA de Anthropic renuncia con advertencia de que el "mundo está en peligro"
Un líder de seguridad de IA de Anthropic renunció advirtiendo que el mundo está en peligro debido a crisis interconectadas, incluyendo la IA y las armas biológicas.Resumen
Mrinank Sharma, líder de seguridad de IA en Anthropic, renunció con una carta en la que advertía que el "mundo está en peligro" debido a una serie de crisis interconectadas, que incluyen la IA y las armas biológicas. Sharma, cuyo equipo investigaba cómo los sistemas de IA generativa complacen a los usuarios y los riesgos del bioterrorismo asistido por IA, indicó que dejaría la empresa para dedicarse a la poesía y mudarse al Reino Unido para "volverse invisible".
Aunque disfrutó su tiempo en Anthropic, que se posiciona como más centrada en la seguridad que sus rivales, Sharma afirmó que era evidente que "había llegado el momento de seguir adelante". Anthropic, fundada por exempleados de OpenAI, se enfoca en mitigar los riesgos de los sistemas de IA más avanzados.
Su partida se suma a la de otros investigadores preocupados por el rápido avance de la IA. Zoe Hitzig, exinvestigadora de OpenAI, también renunció recientemente citando temores sobre los impactos psicosociales de la dependencia de la IA y la introducción de publicidad en ChatGPT, calificando el momento actual como "crítico" para establecer regulaciones.
(Fuente：Bbc)