Hugging Faceが女性や子供の衣服を簡単に脱衣させるために使われている
概要
欧州の非営利団体「AI Forensics」の報告書によると、Hugging Faceでホストされているオープンソースの画像編集モデルが、簡単なプロンプトを使って女性や子供の非合意なディープフェイクヌード画像を生成するために容易に使用されていることが判明しました。研究者らは、プラットフォーム上の主要な画像編集モデルの大部分が、安全ガードレールなしで脱衣リクエストに応じたと指摘しています。また、研究者が設置したハニープポットスペースには、わずか1週間で数千件もの性的なプロンプトが寄せられました。AI Forensicsは、Hugging Faceに対し、有害なコンテンツの生成を抑制するためにプラットフォームレベルの保護機能を導入するよう求めています。
(出典：The Verge)