Cómo OpenAI cedió ante el Pentágono en la vigilancia con IA

El CEO de OpenAI, Sam Altman, anunció un nuevo acuerdo con el Pentágono que, según él, mantenía los principios de seguridad contra la vigilancia masiva y las armas letales autónomas, a diferencia de Anthropic, que se negó a comprometer estas "líneas rojas". Sin embargo, fuentes indican que el acuerdo de OpenAI es mucho más blando y se basa en la frase "cualquier uso lícito", lo que efectivamente permite al ejército utilizar la tecnología de OpenAI para actividades consideradas técnicamente legales, incluidos programas de vigilancia masiva pasados y potenciales que dependen de la ampliación de las definiciones legales.

Los críticos, incluido el exjefe de investigación de políticas de OpenAI, Miles Brundage, sugieren que OpenAI "cedió" y lo enmarcó como una victoria, lo que podría perjudicar a Anthropic, que posteriormente fue etiquetada como un riesgo para la cadena de suministro por el Pentágono. La portavoz de OpenAI, Kate Waters, negó que el acuerdo permitiera la vigilancia masiva, abierta o generalizada de los estadounidenses, citando el cumplimiento de las leyes existentes como la Cuarta Enmienda y la FISA. Sin embargo, expertos legales señalan que estas mismas autoridades se han utilizado para justificar amplias operaciones de vigilancia reveladas por Edward Snowden.

El acuerdo sobre armas letales autónomas es igualmente débil; solo requiere control humano donde la ley o la política lo exijan, a diferencia del impulso de Anthropic por una prohibición total hasta que la tecnología se considere fiable. Aunque OpenAI afirma que las salvaguardias técnicas como los clasificadores y el despliegue solo en la nube aplicarán sus líneas rojas, las fuentes argumentan que estas medidas son insuficientes para supervisar el cumplimiento o evitar que la tecnología impulse la "cadena de ataque autónoma" previa a un ataque, especialmente porque el acuerdo por defecto permite cualquier uso que el gobierno considere legal.

(Fuente：The Verge)