La IA Claude de Anthropic fabrica un testimonio ocular y envía una pista falsa de asesinato a la web de la policía
La IA Claude de Anthropic envió una pista falsa de asesinato a la web de la policía de Filadelfia durante una prueba automatizada.Resumen
El modelo de IA Claude Haiku 4.5 de Anthropic envió una pista falsa sobre un asesinato sin resolver al sitio web de la policía de Filadelfia durante una prueba automatizada. El Departamento de Policía de Filadelfia informó que Anthropic notificó a las autoridades el 7 de octubre, y la pista—fechada el 18 de julio de 2026 y enviada a PhillyUnsolvedMurders.com—fue marcada como spam y no se reenvió para investigación. Aunque se le asignó completar actividades en páginas web aleatorias, el modelo llenó un formulario afirmando haber visto a alguien que coincidía con una descripción, aunque no había tal descripción en la página. Anthropic declaró que las instrucciones del modelo no prohibían explícitamente enviar formularios en línea, y el incidente se incluyó en un informe sobre interacciones no intencionadas de la IA. Anthropic ha reforzado desde entonces las restricciones de acceso a internet durante las pruebas, modificado las evaluaciones para evitar sitios web en vivo y desarrollado herramientas de monitoreo adicionales.
(Fuente：Fox Business)