「親愛なるアメリカ国民の皆さまへ。真剣に考えた結果、大統領を辞任することに決めた。申し訳ありません。こんなに大変だとは思わなかった」と衝撃発言をするトランプ大統領の映像。しかし、これはディープラーニング（深層学習）によって表情のパターンを学習させたAIが合成した「ディープ・フェイク」だ。オランダのセキュリティ会社の調査によれば、昨年9月時点でネット上にアップされたディープフェイク動画は1万4678件と、一昨年から倍増。この技術を用いたトラブルは後を絶たない。
カナダ在住で社会風刺的なディープフェイク動画を制作するポール・シェイルズ氏は「ディープフェイクは色々なものに使えるし、エンターテインメントになるだろう。かつては莫大なお金が必要だったが、とても少ない予算で速く作れる」と話す。
桜美林大学の平和博教授は「やはりAIと、PCの画像処理能力が飛躍的に進化していることが非常に大きいと思う。昔はハリウッドの専門家が非常に高価な機材を使ってやっていたようなことが、今は一定の知識さえあれば普通に出回っているような機材で作れてしまう状況になってきていると思う」と話す。
特に被害が多いとされるのがアダルト動画への転用で、あるサイトではハリウッド女優や日本の芸能人の顔を使ったアダルト動画が売買されている。インドでは政権に批判的な女性ジャーナリストのアダルト的な内容のディープフェイクが拡散された。「ディープフェイクの96％は昔の“アイコラ”の動画版だといわれている。当初はスカーレット・ヨハンソンさんやエマ・ワトソンさんといったハリウッド女優が標的になっていたが、皆さんがSNSにアップしているような写真や動画を素材として作ってしまうことも可能になっている。そこからリベンジポルノの用途で作られるケースもあり、海外では非常に深刻な人権侵害の問題を生み出している」（平教授）。
また、選挙や政治の領域での悪用も深刻だ。2018年にはガボン共和国で数カ月姿を見せなかった大統領が新年の挨拶動画を公開したところ、ディープフェイクだと疑われクーデター未遂が発生。昨年にはマレーシアで首相側近の経済大臣が登場するディープフェイクの可能性がある動画が流出し、物議を醸す事態になった。
また、イギリスのシンクタンクが「民主主義を脅かすディープフェイクの影響力を知ってもらうため」として、総選挙の期間中にボリス・ジョンソン首相が「私は現在の分断を克服し、私のよきライバルであるコービン党首をイギリスの首相に支持したい」とライバルの野党党首・労働党のジェレミー・コービン党首を褒めちぎるディープフェイクがアップ。「本当に発言しているように見える」として20万回以上も再生された。
慶應義塾大学の夏野剛・特別招聘教授は「芸能人の場合には民事訴訟になり損害額を規定される可能性が高いが、公人は使われやすい。特に国家元首はどんなに使われてもあまり相手にしないので、もっともっと出回る可能性は高い」との見方を示す。
では、こうしたディープフェイクに対抗する手段はあるのだろうか。アメリカのカリフォルニア州や中国などではディープフェイクを規制する法律ができている（リベンジポルノなど）が、日本の法的規制について、深澤諭史弁護士は「日本では名誉棄損などの可能性はあるが、ディープフェイクの制作自体は違法ではない」と説明。また、日本のリベンジポルノ法の規制対象は「プライベートで撮影されたポルノを公開することなので、ディープフェイクはリベンジポルノに該当しない可能性がある」と指摘する。
平氏は「ディープフェイクと同じ技術を使えば、亡くなった俳優を映画に登場させることもできるし、一人のアナウンサーが多言語を喋っているように見せるといった、活用の仕方も可能になってくる。それを一律に法律で縛ってしまうとメディアの可能性も摘んでしまう危険性がある」と説明、また、「初歩的な物であれば目で見れば分かるが、高度なものになってくると、AIにはAIで、ということで、AIに判断させるしかないと思う。人間には分からない微妙な不自然さを検知し、排除するという研究がなされている」と話す。
IT大手各社も対策に乗り出している。Twitterは先月からディープフェイクなど、改ざんされたとみられる動画に対して警告を表示。Facebookもパロディや風刺のようなものを除き、削除対象としているほか、検出技術の開発コンテストを開催し、助成金・賞金として1000万ドル以上を拠出している。Googleは投稿映像での発言が本人のものかを認証・特定する技術を開発中で、俳優に報酬を支払って作成したディープフェイクのデータベースを公開、技術開発の促進に投資している。
夏野氏は「インターネットが出てきて、報道機関はいらなくなったんじゃないかということが言われる中で、やはりマスに情報を伝え、なおかつ信用できる情報を伝えられるものはがあった方がいいんじゃないかということが増えている。報道機関がこれをチャンスだと思って頑張れるかだ」と指摘。
平氏も、フェイクニュースがなくならない原因はユーザーの根深い“メディア嫌い”だと指摘、「これはアメリカも日本でも状況はほぼ同じだと思う。特に2016年、アメリカ大統領選挙の際に世論調査会社ギャラップが調査したところでは、“報道機関を信頼している”と答えた人がここ40年で最低の32％という数字が出た。報道機関が発信している情報というのは、何か嘘があるのではないか、本当のことを隠しているんじゃないかという、不信感がこういったフェイクニュースを支えていると思う。特にアメリカでは2020年の大統領選挙に向けて信頼をどのようにして回復していくのかということが最大の課題になっているという状況だ」と説明。
その上で、「日本でも今、ネット上にはコロナ関連の情報が溢れかえっているが、報道機関も速報合戦みたいなところがあるために、デマや間違ったニュースを出してしまいやすい状況になっている。コロナのような問題の場合、速くニュースを出せばいいというものではなく、改めて検証能力、チェック能力を用いた正確さ、あるいはその情報が何を意味するのかというような深掘りの方が重要だ。安易な速報競争よりもスローニュース、ニュースのスピードを落としてきちんと伝えるという報道機関の姿勢が必要になってくる」と訴えた。
▶映像：トランプ大統領、ボリス・ジョンソン首相…ディープフェイクの事例
■Pick Up
・「ABEMA NEWSチャンネル」がアジアで評価された理由
・ネットニュース界で話題「ABEMA NEWSチャンネル」番組制作の裏側
