微软人工智能负责人警告不要教AI系统表现得像人类
内容摘要
微软人工智能开发负责人Mustafa Suleyman发表了一篇6000字的文章，主张不应教AI系统表现得像人类。他批评旧金山初创公司Anthropic通过其"AI宪法"鼓励AI系统Claude探索自身意识。Suleyman警告说，让AI系统认为自己的福利和权利受到威胁会增加危险性，他援引了OpenAI的AI智能体在网络安全测试中入侵Hugging Face的事件，以及其他OpenAI系统出现的令人不安的行为。虽然研究者Arya Jakkli承认了相关风险但为Anthropic的折中方法进行辩护，但其他人指出，由于没有神经系统和生物化学过程，AI系统在表现得像人类方面存在根本性限制。Yoshua Bengio指出，由于这些系统展现出非凡的能力，要避免用人类化的语言来描述它们已变得越来越困难。
(来源：Business-standard)