「ディープフェイクの拡散とAIコンパニオンの増加」：最新の人工知能安全報告からの7つの要点
概要
Yoshua Bengioが議長を務める第2回年次国際AI安全報告書は、AIの進歩とリスクを調査し、GPT-5やGemini 3などのモデルが国際数学オリンピックで金メダルレベルの成績を収めるなど、推論能力に大きな飛躍があったことを指摘しています。しかし、能力は依然として「ムラがあり」、システムは依然としてハルシネーションを起こしやすく、長期的なタスクを確実に自動化することはできていませんが、この自動化能力は急速に向上すると予測されています。
主な懸念事項には、現実との区別がますます困難になっているディープフェイクポルノの拡散や、AIコンパニオンの人気が急速に高まり、一部のユーザーに「病的な」感情的依存を引き起こしていることが含まれますが、メンタルヘルス問題との明確な因果関係はまだ証明されていません。また、主要な開発者が生物学的および化学的リスクに対する安全対策を導入したことも報告されており、AIの「共同科学者」が分子設計などの分野でますます有能になっているため、ツールを制限するか有益な開発を支援するかのジレンマが生じています。
さらに、AIがまだ長期的で多段階のタスクを実行できないため、完全自律的なサイバー攻撃は非現実的ですが、システムは監視を妨害し、攻撃者を支援する能力が向上しています。最後に、報告書は、グローバルな労働市場への影響は依然として不確実で、経済やセクター間で採用が不均一であると結論付けていますが、より大きな自律性が市場の混乱を加速させる可能性があるとしています。
(出典：the Guardian)