Los riesgos de seguridad de la IA también son culturales y de desarrollo - Help Net Security

Un estudio realizado por un grupo internacional de académicos sostiene que muchos riesgos de la IA trascienden las vulnerabilidades técnicas, y están arraigados en las suposiciones culturales y el desarrollo desigual incrustados en el ciclo de vida de la IA. Los datos de entrenamiento y las decisiones de diseño reflejan lenguajes y normas dominantes, lo que provoca que los sistemas funcionen mal o fallen en regiones con pocos recursos, lo cual los líderes de ciberseguridad deben considerar como vulnerabilidades sistémicas que amplían la superficie de ataque. Además, la tergiversación cultural por parte de la IA generativa puede llevar a la desinformación y la polarización, que los adversarios explotan. La investigación destaca que las brechas de desarrollo —el acceso desigual a la computación, los datos y la mano de obra cualificada— provocan caídas de rendimiento predecibles cuando los sistemas se implementan fuera de su contexto de desarrollo original. La gobernanza existente a menudo pasa por alto estas dimensiones culturales y de desarrollo, creando un punto ciego donde los daños se acumulan en toda la cadena de suministro. Finalmente, los límites epistémicos, donde los modelos carecen de conciencia sobre el conocimiento cultural faltante en los conjuntos de entrenamiento, deterioran la precisión de la detección, lo que significa que las señales de amenaza expresadas en modismos locales o lenguas no dominantes se pasan por alto, vinculando en última instancia los derechos culturales con la integridad del sistema y los resultados de seguridad.

(Fuente：Help Net Security)