中国、人間のような対話が可能なAIを規制する草案を発表

中国のサイバー規制当局は、人間の人格を模倣し、感情的にユーザーと関わる人工知能サービスに対する監視を強化するための草案を公表しました。この提案された規則は、シミュレートされた人間の特性やコミュニケーションスタイルを示し、テキスト、画像、音声、ビデオなどを介してユーザーと感情的にやり取りする、中国で一般に提供されるAI製品に適用されます。草案では、プロバイダーに対し、過度の使用についてユーザーに警告し、依存の兆候が見られた場合に介入すること、また、アルゴリズムレビュー、データセキュリティ、個人情報保護のためのシステムを確立し、製品ライフサイクル全体を通じて安全責任を負うことを義務付けています。さらに、プロバイダーはユーザーの状態を特定し、依存度を評価することが求められ、極端な感情や依存行動を示すユーザーに対しては必要な介入措置を講じる必要があります。これらの措置は、国家安全を脅かすコンテンツ、デマの拡散、暴力やわいせつな行為を助長するコンテンツの生成を禁止する、コンテンツと行為のレッドラインを設定しています。

(出典：Reuters)