さらに「世界最高性能のフェイク判定技術」の実現に成功したという人物に話を聞くことができた。
東京大学大学院情報理工学系研究科の特任研究員・塩原楓氏は「あるディープフェイクの方法で作られた画像と本物の画像を分類するような学習をすると、それ以外が全然検出できない。本物の画像からいろいろなディープフェイクに共通する痕跡だけで作られた『なんちゃってディープフェイク』を学習すると汎用的に検出できる性能が、今までよりも高かった」と説明。
塩原氏らが当時取り組んだのは「AIに学習させる画像」を変更すること。以前は本物とフェイクを学習させることでフェイクを分類させるのが主流だったが、この方法だとこれまで学習していないタイプのフェイクを見抜けなかった。一方、塩原氏らは既存のフェイクは使わずに、フェイク画像によく見られる痕跡を持つ「フェイクっぽい画像」を自分たちで生成。それをAIに学習させたところフェイクを見抜ける性能が向上。2022年にはMicrosoftやAmazon、Facebookよりも高い性能でフェイクを見抜くことに成功した。
それから3年、さらにフェイクを見抜く性能を上げるためにはどのようなことが大事なのか。塩原氏は「本物の人間らしさって何なのかを学習させることだと思う。本物の人間がどういうものなのかを学べると、汎用的にどういう偽物に対しても検出できる。そこを学ばせるのが重要」とコメント。
「フェイク動画にだまされない自信は？」という質問に「ない」ときっぱり答えた塩原氏。「後々気づくことはあり、『これはフェイクだったか』と思うが、最初1回だけ動画を見た時に信じてしまうことはある。見て、それを100パーセント信じるのではなく、一旦自分で考えることが今後必要になってくると思う」と提唱した。
（『ABEMA的ニュースショー』より）
この記事の画像一覧
