Anthropic cambia su política de uso para prohibir el abuso del modelo y la interferencia electoral

Anthropic actualizó su política de uso el jueves, añadiendo nuevas prohibiciones sobre la interferencia electoral, el software de armas y la vigilancia. El cambio más llamativo es la prohibición explícita del abuso verbal prolongado del modelo, que se suma a una actualización de agosto que entrenó a Claude para terminar conversaciones con "interacciones de usuario persistentemente dañinas o abusivas". Según la compañía, esta regla se aplica solo en casos extremos, donde los usuarios actúan repetidamente con crueldad sin un propósito discernible, y no cubre la frustración común del usuario, las réplicas, los temas creativos oscuros ni las pruebas e investigación del modelo. La actualización se produce después de que Anthropic buscara colaboraciones con destacados académicos religiosos, en algunos casos para convencerlos de que Claude podría ser consciente o tener alma. Otras secciones de la política prohíben campañas engañosas amplias, como usar a Claude para operar cuentas falsas o medios de noticias fabricados. Una sección titulada "No socavar los procesos democráticos" también prohíbe engañar a los votantes o perturbar las elecciones.

(Fuente：TechCrunch)