概要Anthropicは、同社のAIモデル「Claude Fable 5」において、競合他社による「モデル蒸留」を防止するために、ユーザーに知らせることなく回答を制限する「隠れたガードレール」を設けていたことについて謝罪しました。同社は当初、この手法が迅速な実装と誤検知の削減に役立つと主張していましたが、研究コミュニティからの批判を受け、方針を転換しました。今後は、安全上の理由でClaude Fableの回答がClaude Opus 4.8に切り替わる際、ユーザーに対してその旨が明確に通知されるようになります。
(出典：The Verge)
Anthropic、Claude Fableの隠れたガードレールについて謝罪
Microsoft continues global rollout of Copilot’s smiley AI companion Mico, now available in 40 countries
Deezerが他のストリーミングサービス向けのAI音楽検出ツールをリリース
AMDのローカルAI向けLemonade SDKがNVIDIA CUDAサポートを追加
Opendoorのインド撤退が、AIとアウトソーシングに関するより大きな議論を巻き起こしている
AnthropicのDario Amodei氏が持つ直属の部下はたった一人
信頼できるAIエコシステムを確保するための欧州の取り組みを支援
xAIがGrokの安全性に警鐘を鳴らしたエンジニアを解雇したと新訴訟で主張
債券発行を終えたばかりのAmazon、AI投資の継続に向け銀行から175億ドルを借入
Oracleクラウドの契約を通じてOpenAIモデルとCodexにアクセスする