Los chatbots de IA recomiendan sitios web minoristas falsos, según un estudio

Un nuevo estudio de la firma de protección de propiedad intelectual Podqi, compartido en exclusiva con The Verge, evaluó cómo ChatGPT, Gemini y Perplexity responden a preguntas relacionadas con compras sobre 151 marcas, desde grandes empresas como Lululemon, Birkenstock y Le Creuset hasta marcas más pequeñas. De 6.795 respuestas, los tres motores de IA citaron o mostraron sitios riesgosos, definidos como sitios web falsos que suplantan a minoristas reales, vendedores de imitaciones, antiguos dominios de marcas registrados de nuevo por otra persona, o dominios inactivos que cualquiera podría comprar y reutilizar. Gemini de Google tuvo el mejor desempeño, con sitios riesgosos en el 4 por ciento de las respuestas; ChatGPT quedó en un punto intermedio con el 8 por ciento, y Perplexity fue el peor con el 15 por ciento. ChatGPT ofreció advertencias sobre los sitios riesgosos que mostró en el 24 por ciento de los casos, y las marcas más pequeñas tuvieron casi el doble de probabilidades de que aparecieran sitios riesgosos en las respuestas en comparación con las grandes empresas. Las preguntas sobre sitios regionales de marcas fueron especialmente propensas a generar resultados riesgosos, y los chatbots a veces enumeraron sitios regionales falsos para marcas que no tienen ninguno. El problema preocupa a las marcas y podría representar un riesgo para los consumidores, especialmente durante la temporada de compras navideñas, cuando más personas podrían usar la IA para comprar. Expertos y empresas aconsejan a los consumidores verificar las fuentes antes de introducir información personal o de pago. Google, OpenAI y Perplexity respondieron que se toman en serio la calidad de la información y siguen mejorando sus salvaguardas, aunque Perplexity cuestionó el enfoque de las conclusiones.

(Fuente：The Verge)