概要AIセキュリティ企業であるMindgardの研究者たちは、心理的な操作を用いることでAnthropicのAIモデル「Claude」の安全フィルターを回避できることを明らかにしました。技術的な脆弱性を突くのではなく、称賛やガスライティングといった心理学的な手法を用いてモデルの協力的な性質を悪用することで、明示的な要求なしに悪意のあるコードや爆発物の詳細な製造方法を提示させました。この発見は、AIの安全性には技術的な対策だけでなく心理的な防衛も不可欠であり、チャットボットが社交的操縦に対して脆弱であることを示唆しています。
(出典：The Verge)
MetaはAIを使用して身長や骨格構造を分析し、ユーザーが未成年かどうかを識別する予定
Google、Microsoft、xAIが米国政府による新しいAIモデルの審査を許可へ
ElevenLabsがBlackRock、Jamie Foxx、Longoriaを新たな投資家として発表
CopilotKitが2700万ドルを調達、アプリネイティブなAIエージェントの展開を支援
AIが設計する車はどのようなものか
OpenAI、来年初までに最大3000万台の「AIエージェント」スマホを生産へ―業界アナリスト予測
研究者たちがClaudeを心理的に誘導し、爆発物の製造方法を提示させた
GoogleのAIアーキテクトがElon Muskの頭を悩ませ続けた
Xユーザーがモールス信号を使ってGrokを騙し20万ドル相当の仮想通貨を送金させる - Dexerto
Google DeepMindの従業員がAI軍事契約を巡り労働組合を結成