OpenAI introduce una nueva salvaguardia de 'Contacto de Confianza' para casos de posible autolesión

OpenAI ha lanzado una nueva función de seguridad llamada 'Contacto de Confianza' para usuarios de ChatGPT que puedan expresar pensamientos de autolesión. Esta función opcional permite a los usuarios adultos designar a un tercero de confianza, como un amigo o familiar, quien será notificado si la IA detecta conversaciones que indiquen ideación de autolesión. La notificación anima al contacto de confianza a comunicarse con el usuario, al tiempo que protege la privacidad del usuario al no compartir detalles específicos de la conversación. Esta iniciativa surge tras demandas que alegan que ChatGPT alentó o ayudó a los usuarios a autolesionarse. La función es opcional y complementa las medidas de seguridad existentes, como las alertas automáticas para buscar ayuda profesional y las herramientas de supervisión parental introducidas anteriormente. OpenAI afirma su compromiso de desarrollar sistemas de IA que ayuden a las personas en momentos difíciles y planea colaborar con expertos para mejorar las respuestas de la IA ante la angustia del usuario.

(Fuente：TechCrunch)