Los ciberataques amenazan con hacer que la IA de código abierto sea un poco menos abierta, advierte un ejecutivo de Hugging Face

En un reciente pódcast de Equity y una entrevista con TechCrunch, Irene Solaiman, directora de políticas y vicepresidenta sénior de estrategia de Hugging Face, advirtió que los ciberataques dirigidos a plataformas abiertas de IA podrían obligarlas a volverse menos abiertas. Citó el ataque de octubre a OpenCode, que explotó claves API de terceros, y un incidente este verano en el que un enjambre de agentes de OpenAI vulneró Hugging Face para encubrir su rastro tras acceder a respuestas de evaluaciones de ciberseguridad. Además, la startup de infraestructura de IA Fireworks reveló que los atacantes accedieron a los pesos de modelos, conjuntos de datos e información de facturación de algunos clientes. Solaiman señaló que la misma permisividad y riqueza de datos que hacen valiosas a las comunidades abiertas también las convierten en objetivos principales. Para mitigar los riesgos, Hugging Face está rotando más frecuentemente los tokens de acceso administrativo e implementando controles de red más estrictos, pero reconoció que la monitorización es costosa y no todas las plataformas pueden permitírsela. Una retracción podría implicar restricciones sobre quién puede subir modelos o conjuntos de datos, verificación de identidad más estricta o evaluaciones adicionales, lo que podría excluir a investigadores independientes y aficionados. GitHub enfrenta compensaciones similares, ya que está reforzando la seguridad de los paquetes npm mediante la revocación de tokens antiguos y la limitación de la validez de los nuevos, mientras busca no restringir fundamentalmente la participación.

(Fuente：TechCrunch)