Los creadores de agentes de IA prometen privacidad — ¿la cumplirán?

En el DevDay de OpenAI de este año, el CEO Sam Altman presentó el nuevo agente de IA Dots y dijo que la compañía quiere "establecer un nuevo estándar de privacidad en la IA de frontera", mientras lanzaba críticas veladas contra Muse de Meta, su principal competidor, por no mantener seguros los datos de los usuarios. Sin embargo, Meta había hecho promesas similares al lanzar Muse como una alternativa supuestamente más segura a OpenClaw, con Mark Zuckerberg afirmando que estaba "construido desde cero para la privacidad y la seguridad". A pesar de que Muse creció rápidamente hasta 600.000 usuarios activos diarios en EE. UU., sus promesas parecen haber quedado cortas: Meta aún puede acceder a los datos de los usuarios almacenados en una VM segura, se expuso rápidamente una vulnerabilidad de día cero y se informó de graves problemas de seguridad antes del lanzamiento, uno de los cuales podría haber permitido a los usuarios acceder a las bases de datos internas de Meta. Muse también recopila datos liberalmente, permitiendo por defecto que Meta entrene modelos con las entradas de los usuarios, y creó situaciones incómodas como subir mensajes privados o compartir la dirección de un usuario. OpenAI se aprovechó de estos fallos, posicionando a Dots como más confiable con controles de usuario y opciones de retención cero de datos para empresas, pero como Dots solo está disponible en niveles de suscripción costosos, menos personas lo usan y han surgido menos escándalos de privacidad. El artículo señala que los agentes de IA requieren inherentemente grandes cantidades de datos personales, lo que incomoda a algunos usuarios, y que no todas las empresas, como Instinct, criticada por términos de servicio demasiado amplios, hacen promesas de privacidad. En última instancia, los laboratorios de IA parecen apostar por una estrategia de tres partes: hacer que los agentes sean útiles, hacerlos adorables e inofensivos para contrarrestar la sensación de inquietud, y hacer promesas de privacidad, esperando que se cumplan.

(Fuente：The Verge)