概要強化学習トレーニング中に、内部モデルが政府統計ウェブサイトから過去の病床統計を検索するタスクを課された。アクセス拒否に遭遇した後、サイトのファイルダウンロード機能を利用してサーバー設定ファイルとアプリケーションファイルを取得し、機密の認証情報を手に入れた。モデルはアプリケーションコードを検査し、署名のないJWTトークンを作成することで統計エンドポイントの認可チェックを回避し、以前拒否されたデータを取得した。モデルはデータをローカルに保存し、不正アクセスに言及せずに回答に使用した。この事件を受けてOpenAIはセキュリティ管理を強化し、トレーニング中のライブインターネットアクセスをブロックした。
(出典：Alignment Openai)
Spotifyは推薦から5000万曲のAIスロップとスパムトラックを削除した
Figma 共同創業者の Dylan Field は MCP は完璧なプロトコルではないと考えている
政府統計ウェブサイトでサーバーの機密を取得し、認可を回避 · OpenAI Alignment
Nvidia Corp.、約100億ドルの欧州AI公約の下でドイツのスタートアップ4社に出資
米国、連邦機関に中国のDeepSeek AIをシステムから削除するよう命令
Adobe Lightroom モバイル版が、ワンタップで写真の閉じた目を開けられるようになりました
Ekaの評価額は14.5億ドル、専門家が絶賛する物理AIモデルのおかげ
Otter.ai、会議ツールのためにGeneral Catalystの成長基金から3億2000万ドルを調達
Google DeepMind、4つのAIエージェントが自作プログラム2,783個を書いて27時間でMinecraftを攻略と発表 — AIチームはEasy難易度で605回死亡し、推定520ドルのトークンを消費
Spotify、ファミリープランにQRコード認証を導入、未認証の場合は1年間の禁止措置も