中国のインターネット規制当局である中央網信弁（CAC）は、AI（人工知能）で生成・合成されたにもかかわらず識別ラベルを付けず虚偽情報を拡散したネットアカウントに対し、「清朗」キャンペーンの一環として一斉摘発を実施した。プラットフォームへの監督を強化し、ネット空間の秩序維持を狙う。

　当局によると、近年はAI生成コンテンツをラベル未表示のまま投稿し、公衆を誤導したり閲覧数を稼いだりする事例が増加。これまでに1万3421件のアカウントを処分し、違法・規約違反の情報約54万3000件を削除した。

　主な違反として、AIで作成した猟奇的な事件や感動を誘う虚構の物語の動画をラベル未表示で公開し注目を集めたケースや、ディープフェイクや音声クローンを使い著名人になりすまして虚偽発言を投稿したり、著名人の姿を無断で使用した「お祝いメッセージ動画」を販売したりする行為が確認された。AI生成の火災現場映像などを用いて架空事故を捏造し、社会不安をあおる例もあった。

　未成年者への影響が懸念される分野では、子ども向け作品のキャラクターをAIで改変し、暴力的・恐怖的・不適切な内容を含む動画を制作・拡散する行為が問題視された。具体例として、マイリトルポニーやウルトラマンなど人気作品を改変した動画が挙げられた。さらに、AI識別ラベルやウオーターマークを除去するツールやチュートリアルの共有・販売も摘発対象となった。

　当局は今後、AI識別ラベル未表示の虚偽情報について「発見次第即処分」とする管理方針を維持する。コンテンツ制作者に対しては、ガイドラインに従い自主的にラベルを表示し、誤解を招かない情報発信に協力するよう求めている。