"Rendición cognitiva" lleva a los usuarios de IA a abandonar el pensamiento lógico, según investigación
Ars Technica
La investigación revela que los usuarios de IA a menudo aceptan razonamientos erróneos, mostrando "rendición cognitiva" y menor pensamiento crítico.Resumen
Un estudio con 1,372 participantes encontró que las personas aceptaban razonamientos erróneos de la IA el 73.2% de las veces, demostrando un fenómeno llamado "rendición cognitiva". Esto ocurre porque las salidas de IA fluidas y seguras se tratan como autoritativas, reduciendo el escrutinio y la deliberación. Aquellos con alta confianza en la IA eran más propensos a ser engañados, mientras que los de alto "IQ fluido" eran menos susceptibles. Los investigadores señalan que, si bien la "rendición cognitiva" no es inherentemente irracional, especialmente con sistemas de IA superiores, expone una vulnerabilidad donde la calidad del razonamiento humano depende de la precisión de la IA.
(Fuente：Ars Technica)