Meta afirma que está cambiando las sugerencias de IA tras hacer preguntas personales invasivas

Meta está alterando los prompts de sugerencia que genera su chatbot de IA tras un incidente viral que destacó preocupaciones sobre la privacidad. La usuaria de Instagram, Kalie Robins, compartió un video en el que mostraba que, después de publicar un clip de ella y su hijo cantando en el coche, Meta AI sugirió el prompt "¿Quién es el pasajero infantil?" Al seleccionarlo, Robins afirma que la IA recopiló información sobre sus hijas a partir de sus publicaciones y las de sus familiares, sugirió prompts adicionales sobre las edades de sus hijos y el lugar donde vive con su familia, e incluso mostró una foto que ella afirma haber eliminado hace años. En respuesta, la portavoz de Meta, Dina El-Kassaby, admitió que la empresa "equivocó el tiro" y declaró que la función nunca debió plantear al usuario preguntas de ese tipo. Meta ahora ha corregido el problema que hacía que la IA sugiriera prompts relacionados con temas personales. La empresa explica que la función está diseñada para ayudar a los usuarios a explorar temas de interés, con las respuestas generadas basadas en información a la que el usuario ya tiene acceso, lo que sugiere que la IA pudo haber referenciado videos donde Robins mencionó los nombres de sus hijos. Este incidente ocurre después de que Meta retirara una función que permitía crear deepfakes de IA de otros usuarios de Instagram debido a una fuerte reacción.

(Fuente：The Verge)