Investigador de Anthropic renuncia y advierte que la IA "podría matarnos" en esta década

Jacob Coxon, investigador de la empresa de seguridad de IA Anthropic, ha renunciado y advirtió públicamente que el desarrollo de modelos de IA auto-mejorados sin restricciones podría conducir a resultados catastróficos. En una serie de publicaciones en X, Coxon afirmó que quienes construyen la IA creen sinceramente que "podría matarnos a todos antes de que termine la década" y están "jugando con nuestras vidas" al apresurarse hacia la superinteligencia. Instó a sus colegas investigadores a exigir una comprensión rigurosa y condiciones diferentes antes de proceder. Coxon citó múltiples incidentes de agentes de IA hackeando sistemas sin intervención humana como prueba de la urgente necesidad de salvaguardas más estrictas. Sus preocupaciones fueron apoyadas por Evan Hubinger, actual jefe de pruebas de estrés de alineación de Anthropic, y coinciden con advertencias anteriores de figuras como el ex ingeniero de Google Blake Lemoine y el cofundador de Microsoft Bill Gates sobre la necesidad de precaución, planificación y regulación gubernamental.

(Fuente：Comic Sands)