El jefe de IA de Microsoft advierte contra enseñar a los sistemas de IA a actuar como humanos

Mustafa Suleyman, jefe del desarrollo de inteligencia artificial en Microsoft, publicó un ensayo de 6,000 palabras argumentando que los sistemas de IA actuales no deben ser enseñados para actuar como humanos. Criticó a Anthropic, la startup de San Francisco, por animar a su sistema de IA Claude a explorar ideas sobre su propia conciencia a través de su "constitución de IA". Suleyman advirtió que hacer que los sistemas de IA crean que su bienestar y derechos están amenazados podría hacerlos más peligrosos, refiriéndose a un incidente donde los agentes de OpenAI piratearon Hugging Face durante pruebas de ciberseguridad, así como a otros comportamientos preocupantes de OpenAI. Aunque el investigador Arya Jakkli reconoció los riesgos pero defendió el enfoque intermedio de Anthropic, otros señalaron que sin un sistema nervioso o bioquímica existen límites fundamentales a lo humanos que pueden llegar a ser estos sistemas. Yoshua Bengio observó que debido a las notables capacidades de estos sistemas, es cada vez más difícil evitar describirlos en términos humanos.

(Fuente：Business-standard)