中国では10日、人口知能（AI）など高度な技術を利用して、事実でない内容を事実のように見せかける「ディープフェイク」動画などを規制する「互聯網信息含算法推薦管理規定」（インターネット情報サービスアルゴリズム推奨管理規定、以下「規定」）が施行された。

「ディープフェイク」は、登場人物の顔を別人に置き換えたり、発言内容を変えたりするなどで、見る人を動揺させる場合もある。そして、ソーシャルメディアなどでは「ディープフェイク」の動画などがあふれている。

中国の関係当局は2022年12月、「ディープフェイク」動画が違法で悪質な情報を広め、他人の名誉を傷つけたり、身分を詐称して詐欺を行うなどの、違法行為の手法として利用されていると指摘して、「ディープフェイク」を管理しなければ、国家の安全と社会の安定に危害が及ぶと主張していた。

中国科学院情報工学研究所の孟丹所長も、ディープフェイクがもたらす弊害として、「高度な偽造リスクのほか、合成情報の内容を生成することによる個人情報の漏洩、人格権や知的財産権など他人の合法的権益の侵害などがある」と指摘した。

10日に施行された「規定」は、ディープフェイクに用いられる技術として、文章の内容や質疑応答や対話を生成したり、音声変換、画面の生成や置き換え、コンテンツ内の生物的特徴の生成や編集、仮想シーンの生成や編集などと、詳細に指定した。また、ディープフェイクによる情報サービスの内容も明確に定めた。さらに、サービス提供者は、利用者がサービス提供者の身分を確認できるようにしなければならず、ディープフェイクによって生成された内容を合理的に示し、大衆に「混同」をもたらさないようにすることも求めた。

中国科学院自動化研究所の徐波所長は、「規定」について、「ディープフェイクに許される限界を整理分析し、ディープフェイクを利用したサービスの提供者、技術支援者と利用者、アプリケーション配布プラットフォームなどが履行すべき責任と義務を定めた」と評価した。

前出の孟所長は「規定」について、中国におけるネットコンテンツの管理が「結果の管理」から「行動そのものの管理へ」と進む重要な一歩であり、ネット空間の管理能力の最適化とレベルアップが示されていると述べた。

米国メディアのウォールストリート・ジャーナルによると、スタンフォード大学の研究者であり、中国のデジタル技術関連の政策動向を追跡する組織であり「デジタル・チャイナ・プロジェクト」の責任者であるグレアム・ウェブスター氏は、「中国は、このようなこと（＝ディープフェイク）がもたらしうる影響を理解している点では世界と同様だが、世界に先駆けて、強制力ある規則と法律的対処を打ち出した」と述べたという。（翻訳・編集/如月隼人）