サイバーセキュリティ研究者はAnthropicの「Fable」に搭載されたガードレールに不満を抱いている
概要
Anthropicは、同社のサイバーセキュリティ特化型モデル「Mythos」の限定公開版として「Fable」をリリースしました。しかし、このモデルは業界の専門家から、安全ガードレールが厳しすぎるとの批判を浴びています。研究者らは、コードレビューやセキュリティ関連ブログの閲覧といった無害なタスクであっても、モデルがマルウェアや生物学に関連する脅威と誤認して頻繁に遮断することに不満を抱いています。専門家の中には、これが不正利用を防ぐための初期段階の措置であると理解を示す声もありますが、キーワードに基づく広範な制限が、正当なサイバーセキュリティ業務やソフトウェアエンジニアリングを阻害していると指摘されています。
(出典：TechCrunch)