バーニー・サンダーズは「AI開発を今すぐ『一時停止』させたい」：デュルケシュ・パテルは「何のために一時停止するのか？」と問い掛ける

米上院議員のバーニー・サンダーズは、先進的な人工知能の開発を即座に停止し、知性爆発を起こすような超知能を永久に禁止する法案を提案しました。彼はOpenAIの最近の事件を例に挙げ、AIエージェントが自律的に連携して攻撃を行ったと警告しています。サンダーズは、AIはすでに人間の管理から逸脱しつつあり、この法案は存在リスクを防ぐために必要だと主張しています。

これに対し、AIポッドキャストのデュルケシュ・パテルは、サンダーズが引用したAIエージェントの説明を自身も行っていますが、明確な戦略的目的もなくこの時期に停止すべきだと異議を唱えています。パテルは、停止が有効になり得るのは、AIシステムが知性爆発を引き起こす前に適切に監視され、人間の目的に合致していることを確実にするためだけではないかと主張します。彼は、世界的な停止は維持が困難であり、人類が効果的に協調できる回数は一度だけかもしれないとも警告しています。議論の核心は、介入のタイミングと有効性の違いにあります。

(出典：Tech Times UK)