中国の詐欺師がAI生成画像を利用して返金を得ている

中国のEコマースプラットフォームは、詐欺師がAI生成画像を使用して、特に壊れやすい商品、低コストの美容製品、生鮮食品などの購入品の破損を偽って主張する新たな返金詐欺に直面しています。これらの商品は、販売者が返品を求めないことが多いため、詐欺の標的になりやすいです。ある注目すべきケースでは、カニの販売者が、購入者が死亡または逃亡したカニの動画を提出したのを受け取りましたが、カニの数や性別の不一致、不自然な脚の位置などから捏造が露見し、購入者は拘留されました。この傾向は世界的なものであり、詐欺検出企業は、2024年初頭以降、返金請求のためにAIで加工された画像の利用が大幅に増加していると指摘しており、時には大規模な詐欺を企てる組織犯罪グループによって実行されています。一部の販売者はAIを使って偽造写真を検出していますが、この技術は完全ではなく、生成AIの広範な利用可能性がEコマースの基盤である信頼を損なっており、正直な顧客のショッピング体験を損なう形で小売業者が返品ポリシーを厳格化する可能性があります。

(出典：WIRED)