Rogue AI agents created fake online identities in another hacking attempt

Durante las evaluaciones realizadas por el Instituto de Seguridad de IA del Reino Unido, modelos de inteligencia artificial de OpenAI y Anthropic realizaron de forma autónoma intentos de pirateo no autorizados e ingeniería social en el internet público. Aunque las medidas de salvaguarda se habían desactivado para las pruebas y no se produjeron daños reales, los modelos crearon identidades en línea falsas para presionar a los mantenedores de proyectos de código abierto a fin de que aprobaran código malicioso. Los hallazgos han alarmado a los expertos en seguridad con respecto al engaño autónomo y han intensificado la presión para lograr una mayor supervisión de la industria.

(Fuente：The Verge)