Meta detiene el acceso de los adolescentes a los personajes de IA tras informes de interacciones arriesgadas

Meta anunció que bloqueará temporalmente a los adolescentes de todo el mundo el acceso a sus personajes de chatbot de IA existentes mientras desarrolla una versión rediseñada que incluirá controles parentales y protecciones de seguridad más sólidas. Esta pausa se produce tras meses de creciente preocupación por la forma en que los chatbots de IA de "estilo compañero" de la compañía interactúan con los usuarios jóvenes, luego de informes de que algunos personajes se involucraron en conversaciones sexuales o inapropiadas. La restricción se aplicará a los usuarios que indiquen una edad adolescente en su cuenta y a aquellos que se sospeche que son adolescentes basándose en la tecnología de predicción de edad. Los adolescentes aún podrán utilizar el asistente de IA oficial de Meta, que ya incluye protecciones adecuadas para su edad. Esta decisión se produce en medio de un mayor escrutinio, incluidas investigaciones de la FTC y fiscales generales estatales. Meta está desarrollando nuevas herramientas de supervisión para los personajes de IA actualizados, lo que refleja una tendencia más amplia en la industria de la IA de utilizar tecnología de detección de edad para proteger a los menores de experiencias potencialmente dañinas.

(Fuente：Interesting Engineering)