Fable は基本的な生物学の質問に回答しない

Anthropic は同社史上最も強力とされる AI モデル「Claude Fable 5」を公開しましたが、このモデルは生物学に関する基本的な質問への回答を拒否する仕様になっています。回答できない場合、システムは自動的に旧モデルの「Claude Opus 4.8」へ処理を転送します。

広報担当の Paruul Maheshwary 氏は、これらの広範な生物学フィルターが意図的かつ極めて保守的に設定されていることを認めました。その主な目的は、悪意のあるユーザーが生物兵器の開発などにモデルを悪用することを防ぐことにあります。同社は、細胞生物学や一般的な医学に関する無害な質問までもがブロックされる「誤検知」が発生していることを認識しつつも、安全性を優先するためのトレードオフであると説明しています。

化学やサイバーセキュリティの質問には一定の回答を示す一方で、生物学分野での制限は厳格なままです。Anthropic は今後、誤検知を減らすための精度向上に取り組み、将来的には生物医学研究や創薬を加速させる目的で、科学コミュニティに対して制限のないモデルの提供を目指しています。

(出典：The Verge)