AI安全护栏如何阻碍攻击性网络安全研究人员的工作
内容摘要
AI企业は、悪意あるアクターがモデルをサイバー攻撃に利用するのを防ぐため、厳格な安全ガードレールや審査制のアクセスプログラムを導入しています。しかし、これらの制限は、正当なオフェンシブサイバーセキュリティ研究者やネットワーク防御者の作業をしばしば阻害しています。専門家は、防御的なプロンプトは攻撃的なものと似ていることが多く、過剰に敏感なガードレールによって、専門家はモデルとの交渉に時間を浪費したり、制限のないローカルのオープンソース代替手段に頼ざるを得なくなったりしており、結果として研究者が外国製のシステムへと追いやられる可能性があると指摘しています。
(来源：TechCrunch)