アイドルなどの女性芸能人とAVを合成したフェイクポルノ動画、いわゆる“ディープフェイク”を作成、インターネット上に公開していた大学生の男ら2人が警視庁に逮捕された。

・【映像】AIで進化する合成動画 "規制と表現の自由"善悪の境界はどこに?

 2人が用いたのが、合成したい人の顔写真からパターンを学習させる「ディープラーニング」の技術だ。映画やゲームのクオリティー向上など、夢が広がるAI技術の一つだが、海外では影響力の強い政治家などのフェイク動画の制作にも用いられ、世論や選挙結果をも動かす可能性があると懸念されている。

 そのため、海外ではSNS事業者などのプラットフォーマーもディープフェイク対策に乗り出しており、Twitterは“警告ラベル”を導入。Facebookは検出技術の開発コンテストを開催、Googleも特定する技術を開発中だ。

 IT関連の事案に詳しい深澤諭史弁護士は「以前から静止画では“アイドルコラージュ”などがあったが、動画でも時間の問題だったのではと思っていた。ついに来るべきものが来たかなと感じた」と話す。ただ、今の日本にはディープフェイクそのものを規制できる法律はないという。一体どういうことだろうか。

■“実際の被害が出なければ難しい”?

 逮捕された大学生(21)は40~50人の芸能人の顔写真を使用、250本の動画を作成、うち150本を公開していた。また、大学生にメールで技術的の相談を受けていたエンジニア(47)は80~90人の芸能人の顔写真を使用して1000本以上の動画を作成、うち250本以上を公開していたという。供述によれば、1人につき3万枚の画像データを100万回学習させることで、1週間ほどで約10分のディープフェイクが制作できたという。

 ポイントは、2人の逮捕容疑が女性芸能人たちの顔を使ったことによる「名誉毀損」と、実際に販売されているAVを使ったことによる「著作権侵害」だった点だ。警視庁は昨年10月ごろサイバーパトロールで動画を発見、女性芸能人の事務所とAV制作会社に聞き取り調査を行ったところ、それぞれ名誉毀損と著作権侵害で告訴したため、2人の逮捕に至ったという。

 深澤弁護士は「個人的に実験・研究したり制作・製造したりする分には法律違反になるものではないし、その時点で禁じるのはやり過ぎだと思う。かつてゲームソフトのコピープロテクトを外すマジックコンピューター、いわゆる“マジコン”の事件が起きたときも、研究のような行為までは規制されないということになった。ある意味では素晴らしい技術なので、上手く使えば亡くなった映画監督や亡くなった俳優による新作映画なども作れるかもしれない」と指摘。

 その上で「ただ、その作品が公開され、内容が名誉を毀損する可能性が十分にあれば名誉毀損になりうるし、肖像権の侵害にもなりうるということだ。ただ、逆にいえば本件では名誉毀損以外を適用するのが微妙で、捜査当局としては“これでいくしかないだろう”と苦肉の策だったのだと思う。ただ、いずれも親告罪といって、基本的に被害者の告訴がなければ処罰できないというところがある(なお、著作権法違反の一部は親告罪ではない)。視聴についても、知るということ、情報の取得自体を処罰するのは難しいが、拡散については被害が広まることになるので、規制せざるを得なくなってくると思う。被害が生じた段階で規制では遅く、被害が大きいということであれば、投稿者を見つけ出すための手続きを迅速化・簡略化していくことが大事だ」との考えを示した。

■制作のヒントを提供した場合は?被害が無くても訴えられる?

 2ちゃんねる創設者のひろゆき(西村博之)氏が「ここにある写真とここにある動画を使って、パソコンでこうやって合成すれば自分でも作れるという内容のものをネットに掲載した場合はどうなるのか」と尋ねると、深澤弁護士は「非常に難しい問題だが、それに近い事件が過去にあった。いずれも合法といえば合法のものを2つ並べて置き、組み合わせれば違法なものができると言ったことが罪に問われた事件だった。要するに、これとこれを混ぜれば爆弾になるというものを配っていれば爆弾を配っているのと一緒じゃないか、と判断された。やはり違法なものを簡単に作れるような手段をセットで出して掲載していた場合には、結果的に違法なものを提供したのと同じだとみなされる可能性がある」と回答した。

 また、パンサーの向井慧は「被害者が訴えた時に勝てるとか、作った人が罰せられるということが大事だと思うが、芸人としては、僕のフェイク動画だけれど、めちゃくちゃ面白いことを言っているような動画が制作されて出回った場合、“俺、こんな面白いことは言ってない”という裁判を起こすことはできるのか」と尋ねると、深澤弁護士は「これも結構難しい。“嘘”そのものは犯罪ではなく、“嘘”によってお金を騙し取れば詐欺罪、他人の名誉を毀損すれば名誉毀損罪、他人の業務を妨害すれば偽計業務妨害罪になるということ。私は書かれた側の弁護だけでなく、表現した側やプラットフォーマー側の弁護もすることがあるので、表現の自由を基本に、三者間のバランスを意識しているが、今の法律は嘘だから直ちに違法だ、犯罪だとはなっていないし、やはりそういう立法はすべきではないと思っている」と話していた。(ABEMA/『ABEMA Prime』より)

AIで進化する合成動画 "規制と表現の自由"善悪の境界はどこに?
ABEMA