概要OpenAIは、AIモデルの脆弱性を特定し安全性を強化するために、内部専用の自動レッドチーミングモデル「GPT-Red」を開発しました。GPT-Redは自己対戦型の強化学習を用いて多様で高度な敵対的攻撃を生成し、これによりGPT-5.6などのモデルをプロンプトインジェクションに対して大幅に堅牢化させることに成功しました。このアプローチにより、AIの性能を維持しながら安全性も同時にスケールさせることが可能となり、悪意のある攻撃に対する耐性を飛躍的に高めています。
(出典：OpenAI)
SpaceX、Starship打ち上げを控えIPO価格の135ドルを下回る
SunoはYouTube、Genius、Deezerから数百万曲を不正に取得した
ハッキングにより、AI音楽生成ツールSunoが学習データにYouTubeをスクレイピングした可能性が浮上
Microsoft patches record number of security vulnerabilities, citing its use of AI
OpenAIがついにハードウェアを発売…Codex向け
Apple Intelligenceが中国で承認され、AlibabaのQwen AIを搭載へ
Ode with Anthropicの内部：AIサービスこそが企業の未来であると賭けるスタートアップ
AnthropicとBlackstone、次なる1兆ドル規模のAIビジネスは「モデル」ではなく「実装」にあると賭ける
Rimeが2,400万ドルのシリーズA資金を調達、企業の顧客対応を支援
ReelfulのAIがカメラロールをソーシャルメディア向け短尺動画に変換