Los investigadores de ciberseguridad no están contentos con los mecanismos de protección de Fable de Anthropic
Expertos en ciberseguridad critican que el modelo Fable de Anthropic bloquea tareas inofensivas debido a mecanismos de protección demasiado estrictos.Resumen
Anthropic lanzó recientemente Fable, una versión pública de su modelo especializado en ciberseguridad llamado Mythos. Sin embargo, el modelo ha recibido críticas de expertos que consideran que sus mecanismos de seguridad son excesivamente restrictivos. Los investigadores señalan que la IA bloquea frecuentemente solicitudes inofensivas, como revisiones de código o la lectura de blogs de seguridad, al identificarlas erróneamente como riesgos potenciales. Aunque algunos especialistas entienden que estas medidas son precauciones iniciales para evitar el uso indebido del software, critican que el sistema se base en filtros de palabras clave demasiado amplios que obstaculizan el trabajo legítimo de ciberseguridad e ingeniería de software.
(Fuente：TechCrunch)