国連、AI安全対策は確実性を待てず
概要
国連の科学パネルは、政府がAIエージェントのリスクを完全に理解する前に、より強力な安全対策を実施すべきであり、科学的確実性を待つ必要はないと警告しています。この勧告は、国連総会が開催され、AI安全が議題に上る中でなされており、米中間のAI会談も含まれています。パネルは、予防原則を援引し、潜在的な災害的または不可逆的な損害は科学的な不確実性があるとしても行動を正当化すると述べています。OpenAI、Anthropic、Google、Metaなどの企業でのハッキング事件に言及し、緊急性を強調しています。報告書は、AIリスクを管理するために、より強力な国際協調とリソースの確保を呼びかけています。
(出典：The Verge)