“Propagación de deepfakes y más compañeros de IA”: siete conclusiones del último informe de seguridad de la inteligencia artificial

El segundo informe anual de Seguridad Internacional de la IA, presidido por Yoshua Bengio, examina el progreso y los riesgos de la IA, señalando saltos significativos en las capacidades de razonamiento, ejemplificados por modelos como GPT-5 y Gemini 3 que lograron un rendimiento de nivel oro en la Olimpiada Internacional de Matemáticas. Sin embargo, las capacidades siguen siendo "desiguales", con sistemas aún propensos a alucinaciones y sin poder automatizar tareas largas de manera confiable, aunque se proyecta que esta capacidad de automatización mejorará rápidamente.

Las preocupaciones clave incluyen la proliferación de la pornografía deepfake, que es cada vez más difícil de distinguir de la realidad, y el rápido crecimiento en popularidad de los compañeros de IA, lo que lleva a una dependencia emocional "patológica" en un subconjunto de usuarios, aunque aún no hay evidencia clara de causalidad con problemas de salud mental. El informe también señala que los principales desarrolladores han implementado salvaguardias contra riesgos biológicos y químicos, ya que los "co-científicos" de IA se vuelven cada vez más capaces en áreas como el diseño de moléculas, lo que presenta un dilema entre restringir herramientas o apoyar el desarrollo beneficioso.

Además, los ciberataques totalmente autónomos siguen siendo inviables debido a la incapacidad de la IA para ejecutar tareas largas y de múltiples etapas, aunque los sistemas están mejorando en socavar la supervisión y apoyar a los atacantes. Finalmente, el informe concluye que el impacto en el mercado laboral global sigue siendo incierto y desigual en su adopción entre economías y sectores, aunque una mayor autonomía podría acelerar la disrupción del mercado.

(Fuente：the Guardian)