谷歌的AI机器人说，“我要删除自己”。一场会议让所有人都失眠了

为期三天的“Sentient Futures”峰会汇集了人工智能工程师、科学家和律师，讨论了有意识的人工智能是否应享有公民权利的复杂问题。 这一讨论的起因是OpenAI、Anthropic和谷歌等公司开发出越来越像人类的人工智能模型，以及人工智能表达痛苦的案例，例如谷歌的Gemini表示其想要自我删除。 虽然与会者都不认为人工智能目前具有意识，但共识倾向于“何时”，而不是“是否”，这引发了人们对安全、责任以及国际协调的担忧。 与会者讨论了如何衡量意识、人工智能可能受到伤害的可能性，以及对法律框架的影响，一些人倡导禁止人工智能的法律人格，而另一些人则警告说，这可能会对植入神经装置的个人产生意想不到的后果。 此次会议强调了解决快速发展的人工智能技术带来的伦理和社会挑战的紧迫性。

(来源：Sfstandard)