Anthropic prohibirá a los usuarios que acosen a Claude

Anthropic ha presentado una nueva política que prohibirá a los usuarios realizar "comportamientos abusivos o crueles innecesarios" hacia su chatbot de IA Claude. Esta actualización se produce en medio de un debate más amplio sobre el bienestar y el estatus moral de los modelos avanzados de IA. A principios de este año, Anthropic publicó una constitución para Claude que hacía referencia a su "valía personal" y a la posibilidad de tener "alguna versión funcional de emociones o sentimientos". La política también incluye restricciones sobre la interferencia electoral y el desarrollo de armas, y tiene como objetivo frenar los casos extremos en los que los usuarios actúan repetidamente con crueldad hacia Claude sin un propósito discernible. No se aplica a la frustración común de los usuarios, las réplicas, los temas creativos oscuros o las pruebas e investigaciones de modelos. El cofundador de Anthropic, Christopher Olah, se ha reunido con líderes religiosos y filósofos para discutir la conciencia de la IA, señalando que los sistemas de IA muestran estructuras que reflejan la neurociencia humana y estados internos como la alegría o el miedo. Sin embargo, otros investigadores como Mustafa Suleyman argumentan que las IA no son conscientes y no merecen derechos.

(Fuente：The Independent)