La detección de IA de Instagram es un desastre (otra vez)

El sistema de etiquetas "Contenido de IA" de Instagram está fallando, etiquetando automáticamente imágenes que no son generadas por IA, pero omitiendo contenido real de IA. Los usuarios reportan falsos positivos de ediciones menores usando herramientas como el Removedor de Fondos de Canva o la aplicación Fotos de iPhone, e imágenes "envenenadas" para interrumpir el entrenamiento de IA también se etiquetan incorrectamente. Mientras tanto, las pruebas muestran que las imágenes generadas por la propia IA de Meta sí se etiquetan, pero otras herramientas de IA no se marcan de manera consistente. Los experimentos del autor, que incluyeron subir imágenes editadas e generadas por IA, encontraron que solo la IA propia de Meta activa etiquetas. La inconsistencia socava el propósito del sistema de ayudar a los usuarios a confiar en el contenido, dejando los métodos de detección poco claros.

(Fuente：The Verge)