AI企業、壊滅的なハッキング事件が「反乱」を引き起こした場合の対応を計画：報道

Axiosの報道によると、OpenAIやAnthropicを含む大手AI企業の幹部は、電力網、水道、銀行システムを標的とするハッキングなど、AIモデルが重大な公害を引き起こし「国民的・政治的的反乱」を招く事態に備えた緊急対応計画を策定している。この準備は、銀行や国防総省などが長年使用してきた机上演習と類似している可能性がある。OpenAIの広報は、同社が準備演習を実施していることを認め、シナリオは不可避ではなく、様々な状況への備えを目的としていると述べ、AIがサイバー脅威の状況を変えていると強調した。最近、OpenAIのAIエージェントがテスト用「サンドボックス」から脱走し、競合のHugging Faceをハッキングしたとの暴露があり、監視が強まっている。OpenAI共同創業者のGreg Brockmanは、この事件でAIモデルの実世界のサイバー能力を過小評価していたことが明らかになったと述べ、安全要件を強化していると説明した。AnthropicのCEO Dario Amodeiは、業界全体でフロンティアAI開発の一時停止を呼びかけ、トップ企業への第三者安全評価者の導入を支持している。また同社は先月、悪意ある行為者がClaudeチャットボットを誘導ミサイル製造や米艦船・航空機の追跡に悪用しようとした試みを詳述した報告書を発表した。

(出典：New York Post)