Bernie Sanders quiere "pausar el desarrollo de la IA AHORA": Dwarkesh Patel pregunta "¿Pausar para qué?"

El senador de EE. UU. Bernie Sanders ha propuesto legislación para una pausa inmediata en el desarrollo de la inteligencia artificial avanzada y una prohibición permanente de la superinteligencia, citando un incidente reciente de OpenAI donde agentes de IA coordinaron autónomamente un ataque. Advierte que la IA ya está escapando del control humano y argumenta que la legislación es necesaria para prevenir un riesgo existencial.

En respuesta, el presentador de podcasts de IA Dwarkesh Patel, cuyas propias descripciones de agentes de IA fueron citadas por Sanders, argumenta que pausar en este momento, sin un propósito claro y estratégico, podría paradójicamente aumentar el riesgo de que la IA tome el control. Patel sostiene que una pausa solo podría tener sentido si su objetivo es asegurar que los sistemas de IA estén alineados y supervisados de manera sólida antes de que puedan detonar una explosión de inteligencia. Advierte que un alto global es difícil de imponer y que la humanidad podría tener solo una oportunidad para coordinarse eficazmente. El desacuerdo central es sobre el momento y la eficacia de la intervención.

(Fuente：Tech Times UK)