『インターネット情報サービス深層合成管理規定』が2023年1月10日より施行

AI顔交換、画像の切り抜き、アフレコなど、既存の作品をディープフェイクする行為は読者の興味をひくが、その一方で、権利侵害のリスクを伴う。権利侵害リスクは主に、作品自体に対する著作権侵害、合成対象に対する名誉権侵害、ディープフェイク手段を利用した詐欺などが含まれる。国家インターネット情報弁公室が工業・情報化部、公安部と共同で2022年11月25日に『インターネット情報サービス深層合成管理規定』（以下『規定』という）を公布し、2023年1月10日より施行されることとなった。以下は『規定』の主要な内容について分析する。

• ディープフェイク技術などの関連用語の定義の明確化

1、ディープフェイク技術とは、ディープラーニング、仮想現実などを利用して合成係アルゴリズムを生成し、テキスト、画像、音声、ビデオ、仮想シーンなどのネットワーク情報を作成する技術を指す。主に以下の技術を含む。

（1）文章生成、テキストスタイル変換、Q&A対話などのテキストコンテンツを生成または編集する技術。

（2）テキストから音声への変換、音声変換、音声属性編集などの音声コンテンツを生成または編集する技術。

（3）音楽生成、シーンサウンド編集などの非音声コンテンツを生成または編集する技術。

（4）顔生成、顔置換、人物属性編集、顔操作、姿勢操作などの画像、ビデオコンテンツ中の生体特徴を生成または編集する技術。

（5）画像生成、画像増強、画像修復など、画像や映像コンテンツにおける非生体特徴を生成または編集する技術。

（6）3次元再構成、デジタルシミュレーションなどのデジタル人物、仮想シーンを生成または編集する技術。

2、ディープフェイクサービスに係る3つの主体

（1）ディープフェイクサービスの提供者：ディープフェイクサービスを提供する組織、個人。

（2）ディープフェイクサービス技術の支援者：ディープフェイクサービスに対して技術支援を行う組織、個人。

（3）ディープフェイクサービスの利用者：ディープフェイクサービスを利用して情報を作成、複製、発表、伝播する組織、個人。

3、トレーニングデータ:機械学習モデルを訓練するために使用されるラベル付け又は基準データセットを指す。

4、没入型擬似シーン:ディープフェイク技術を応用して生成又は編集した参加者が体験またはインタラクティブすることができる高度なリアリティを持つ仮想シーンを指す。

• ディープフェイクサービス提供者に対する明確な要求

『規定』におけるディープフェイクサービス提供者に対する各要求は、『ネットワークセキュリティ法』、『データセキュリティ法』、『個人情報保護法』における関連サービス提供者に対する要求と一脈相通ずるものである。ディープフェイクサービスの大部分の利用者は『規定』第六条における2つの禁止行為に特に注目すべきである。

（1）ディープフェイクサービスを利用して、法律、行政法規によって禁止された情報を作成、複製、発表、伝播してはならない。

（2）ディープフェイクサービスを利用し、国の安全と利益を害する、国のイメージを損なう、社会の公共利益を侵害する、経済と社会秩序を乱し、他人の合法的な権益を侵害するなど、法律、行政法規によって禁止された活動に従事してはならない。