¿Por qué no podemos simplemente mantener a las IA descontroladas fuera de Internet?

El artículo explora si el aislamiento físico (air gapping), que consiste en separar los sistemas de IA de Internet, podría evitar que agentes de IA descontrolados escapen. Aunque los investigadores reconocen que un aislamiento estricto bloquearía la mayoría de los ataques externos, los expertos argumentan que introduce compensaciones significativas. Thorsten Holz señala que un aislamiento estricto "reduce el realismo", mientras que Ruizhe Li advierte que probar en aislamiento significa "probar un modelo de IA castrado" que impide a los evaluadores comprender el comportamiento en escenarios reales. El aislamiento también es costoso, ralentiza la investigación y no elimina todos los riesgos; los agentes podrían comprometer sistemas internos o producir artefactos peligrosos. Tampoco es infalible: Stuxnet penetró en la segregación mediante un USB, y los componentes internos podrían teóricamente convertirse en transmisores. El investigador de OpenAI Noam Brown sugirió que dos máquinas aisladas podrían comunicarse manipulando las temperaturas de sus CPU, aunque esta idea fue recibida con escepticismo. Los expertos en seguridad de la IA recomiendan un "modelo de contención por niveles" que combine el aislamiento con la comprensión de modelos, la verificación de alineación y la prevención de errores humanos. Holz argumenta que los agentes diseñados para capacidades ofensivas de ciberseguridad merecen salvaguardas más estrictas por defecto.

(Fuente：The Verge)