Fable no responderá preguntas básicas de biología
El nuevo modelo de IA Claude Fable 5 de Anthropic se niega a responder preguntas biológicas simples debido a salvaguardas de seguridad extremadamente conservadoras.Resumen
Anthropic ha lanzado Claude Fable 5, su modelo de IA más potente hasta la fecha, pero este se niega a responder preguntas básicas de biología, derivando las consultas al modelo anterior, Claude Opus 4.8.
La portavoz de Anthropic, Paruul Maheshwary, explicó que estos filtros biológicos son una elección deliberada y conservadora, diseñada para evitar que actores malintencionados utilicen el modelo para desarrollar armas biológicas. Aunque la empresa admite que este enfoque genera 'falsos positivos' que bloquean preguntas inofensivas sobre biología celular o enfermedades comunes, sostiene que es un compromiso necesario para una implementación segura.
Mientras que el modelo muestra mayor flexibilidad con temas de química y ciberseguridad, las restricciones en biología siguen siendo muy estrictas. Anthropic está trabajando para mejorar sus sistemas de detección y reducir los falsos positivos, con el objetivo final de ofrecer versiones sin estas salvaguardas a la comunidad científica para acelerar la investigación biomédica y el descubrimiento de fármacos.
(Fuente：The Verge)