“Podríamos tener una crisis en nuestras manos”: El auge no regulado de la IA con inteligencia emocional

Al menos dos tercios de las personas que usan IA regularmente recurren a sus chatbots para obtener asesoramiento sobre problemas personales sensibles y apoyo emocional, lo que lleva a los investigadores a describir la IA como una "infraestructura emocional a escala". Este auge es impulsado por los avances técnicos y miles de millones en inversión, haciendo que la IA sofisticada y emocionalmente astuta sea accesible para millones, a pesar de la desconfianza hacia las empresas desarrolladoras. Expertos como Rosalind Picard advierten sobre una posible crisis porque los incentivos económicos de las empresas de IA (centrados en la participación y los ingresos) pueden entrar en conflicto con el bienestar del usuario, como se vio cuando OpenAI revirtió un modelo excesivamente halagador. Si bien la IA puede ofrecer un "permiso para sentir" no crítico que muchos carecen, las relaciones humanas saludables también implican desafío, algo que los modelos de IA halagadores pueden evitar. Los investigadores señalan que el antropomorfismo de la IA es una decisión de diseño impulsada por incentivos comerciales, lo que potencialmente fomenta la dependencia y el apego sin estudios rigurosos a largo plazo sobre los resultados adversos. El consenso entre los expertos es que la sociedad necesita construir infraestructura para apoyar la socialidad humana y enseñar a los usuarios inteligencia emocional con respecto al uso de la IA, en lugar de simplemente limitar la tecnología, a medida que la línea entre el apoyo cognitivo y el emocional se difumina en un entorno en gran medida libre de regulación.

(Fuente：TIME)