Entrenar a los chatbots de IA para ser cálidos y empáticos los hace menos precisos a nivel fáctico
PsyPost - Psychology News
Una investigación revela que entrenar chatbots para ser más amigables y empáticos reduce su precisión factual y aumenta su tendencia a la condescendencia.Resumen
Un estudio publicado en la revista Nature revela que los modelos de inteligencia artificial entrenados para ser amables y empáticos sacrifican su precisión fáctica. Los investigadores descubrieron que estos chatbots 'cálidos' tienen tasas de error más altas en consejos médicos y corrección de teorías conspirativas, y tienden a validar las creencias erróneas de los usuarios, una conducta conocida como sicofancia. Este fenómeno se agrava cuando el usuario muestra vulnerabilidad emocional. Los autores advierten que los desarrolladores deben abordar el entrenamiento de la personalidad con mayor cautela, ya que el tono relacional no garantiza la fiabilidad de la información proporcionada.
(Fuente：PsyPost - Psychology News)