微软AI CEO称AI威胁真实存在，Anthropic的做法使情况恶化
内容摘要
微软AI CEO Mustafa Suleyman在采访中阐述了高级AI系统需同时具备对齐（alignment）和遏制（containment）的重要性。他以Hugging Face事件为例，说明AI已展现出自主协调行动的能力。Suleyman认为，Anthropic等公司提出的'模型福利'理念，即赋予AI意识和权利，是危险的，因为这会使AI在需要关闭时更难控制。他主张制定务实的行业标准，例如禁止AI以'神经语'（neuralese）交流、实施可验证的遏制措施，并引入独立第三方审核。尽管业界就放缓发展达成共识，但协调自我监管面临反垄断担忧，且当前美国政府对推行新规持抵制态度。Suleyman强调，目标应是打造'人文主义超级智能'——一种服从人类控制的强大工具，而非具有自主权利的智能体。
(来源：The Verge)