アイドルなどの女性芸能人とアダルトビデオを合成した違法動画をインターネット上に公開していたとして、大学生の男ら2人が警視庁に逮捕された。男ら2人は、女性芸能人の名誉を棄損し、著作権を侵害した疑いがもたれている。
【映像】声もそっくり？ トランプ大統領に見える「ディープフェイク」 加工後の動画（※1分ごろ～）
このような動画はフェイクポルノと呼ばれ、パソコンに合成したい芸能人の顔のパターンを学習させる「ディープラーニング」の技術だ。高度な技術を使った、通称・ディープフェイク。ディープフェイクが問題になっているのは、ポルノ動画だけではない。中にはアメリカのトランプ大統領が話しているかのように加工されたディープフェイク動画も存在する。全くの別人が語った動画だが、特に影響力が強い人物のフェイク動画は、世論や選挙結果をも動かす可能性があると懸念されている。
さらに、海外では「架空の人物」を作りだすディープフェイクも起きている。イギリス・バーミンガム大学の学生で、新聞社に記事も送っていたオリバー・テーラー氏。しかし、新聞社が身元を調べると確認できず、実は「ディープフェイク」でプロフィール写真を作った「実在しない記者」だった。
「AIにはAIを」こうしたディープフェイクの横行を受け、対策に乗り出す企業もある。マイクロソフトは先月、ディープフェイクの対策ツールを発表。AI技術によって人間の目ではわからないレベルの色あせなどを検出し、ディープフェイクが使われたかどうかを分かるように表示してくれるという。
男ら2人の逮捕を受けて、ニュース番組「ABEMAヒルズ」のコメンテーターで、BuzzFeed Japan記者の神庭亮介氏は「ディープフェイクの技術的なハードルは低くなっており、精度を問わなければ比較的簡単につくることができる。かつてのアイコラ（アイドルコラージュ）の延長で、いつこういうことが起きても不思議ではなかった」とコメント。
「リベンジポルノは別れた交際相手などの動画を流出させるものだが、ディープフェイクを使えば『実在しないリベンジポルノ』をでっちあげることもできる。いまはまだ肉眼で不審な点を見破ることができるが、今後より精巧な動画がつくれるようになると、政治的な悪用も心配される。たとえば、トランプ大統領が『核スイッチを押した』と話すフェイク動画があたかも事実のように拡散された場合、報復が起きて戦争になってもおかしくない」
また、ディープフェイクが詐欺などの犯罪に使われ、今後大きな被害を生み出すことも考えられる。
「技術は日進月歩で、いつかは（ディープフェイクが）人間に見破れないレベルになるだろう。海外では実際に、ある会社のCEOが親会社の幹部を偽った音声のディープフェイクに騙され、お金を取られてしまうケースがあった。オレオレ詐欺などのターゲットにされやすい高齢者が、ディープフェイクの動画を信じ込んでお金を払ってしまう可能性もある」
その上で、悪用されないための対策について、神庭氏はこう提言する。
「まずは個人レベルでリテラシーを上げること。昔は動画は“動かぬ証拠”だったが、精巧なフェイク動画によって “動く証拠”になりつつある現状を知っておく必要がある。2つ目はプラットフォームレベルで規制に取り組むこと。TwitterやFacebook、Googleなどは、すでにディープフェイク対策に動き出している。『目には目を、AIにはAIを』で、プラットフォーム側がAIで編集・加工を検出し、排除できるようになるといい」
「3つ目は、法的な規制のあり方を議論すること。ディープランニング・AIの技術そのものは重要だし、どんどん研究すべきだ。また、個人で楽しんだり、パロディー動画をつくったりする分には許容範囲だと思う。ただ、名誉毀損や犯罪につながるような動画については、広く拡散される前に迅速に対処できるような仕組みづくりが必要ではないか」
犯罪に技術が悪用されないために、正しい使い方・付き合い方を今後も考えていかなくてはならない。
（ABEMA／『ABEMAヒルズ』より）
