多くの人の顔の特徴を集めて生成した「マスターフェイス」と呼ばれる画像で顔認証が突破される可能性が出てきた。生成技術の悪用にどう対抗するか。画像への「ワクチン接種」も検討されている。
本物の人の顔と見まがうほどリアルなフェイク顔、そして昨年9月に“静岡県の水害”としてSNSに投稿されたフェイク画像。
今や、高度な専門知識がなくても生成AIを使って簡単にフェイク画像が作れる中、こういった偽の情報に騙されないよう、身を守るための技術を研究開発しているのが、国立情報学研究所の越前功教授だ。
「生成AIを使っての詐欺や詐称、特に顔や指紋といった生体情報の違法な使用への対策に強い興味を持っている」
顔などの生体情報の悪用を防ぐべく、越前教授の研究により日本で初めて開発されたのが、本物の顔と生成AIで作った顔を自動で見分けるシステム、「シンセティックビジョン」だ。
本物の顔には緑の枠が、フェイクの顔には赤い枠がかかり、ひと目で真贋判定ができる。このシンセティックビジョン、タレントなど著名人の映像の悪用を検知するため、１月からサイバーエージェントが導入を始めた。
さらに「どういうような経緯でこのフェイク画像が作られたか、元は何だったのか知りたい」というニーズに対して越前教授は「サイバーワクチン」を開発。元の顔の画像に、あらかじめ目には見えない情報を埋め込んでおくことで、ワクチンを打った状態になり、たとえフェイク顔にされたとしても元の顔に復元することができるのだ。
「対象としているのは、“顔の入れ替え”という攻撃だ。Aさんの画像にワクチン接種しておくと、それがBさんに置き換えられても、その周辺の情報を読み込むことで、Aさんの顔を復元する。つまり、Aさんの顔がBさんに置き換えられたことがわかる」
サイバー攻撃に対する、ワクチンという新発想。さらに、越前教授は次なる攻撃手段も予測。新たな脅威として考えられるのが「マスターフェイス」だ。
「マスターフェイスという名前が示すように、ホテルのマスターキーのようなものだ。つまり、どの顔にもマッチしやすい顔を生成AIで作るという仕組みだ」
さまざまな顔に共通する特徴を持った「マスターフェイス」。まだ被害が出たという事例はないものの、これがあれば、顔認証システムを突破できるため、悪用される可能性があるという。
このマスターフェイスをシンセティックビジョンにかけるとフェイク判定が出て偽物の顔だと見破ることができる。未知のサイバー攻撃を予測しその対策を練る。越前教授の研究はこれからも続く。
「様々な脅威が日々報告されている。1年後何が起きているか分からない状況だ。ただ、そういったものをいち早くキャッチアップして、対策を考えていくということ、さらに新しい技術を使った潜在的な脅威についても検討していきたい」
生成技術の悪用とその対抗策について、The HEADLINE編集長の石田健氏は「多くの方が活用するグーグルやフェイスブックといったサービスは海外の会社のものであるため、対策を考えてもプラットフォーマーとの間に距離があることも問題だ」と課題を指摘した。
さらに石田氏はこの課題の解決策として「プラットフォーマーの対応が遅い場合、自動的に罰金が積み上がっていくようなルールを作るために司法の取り組みを進めることが有効だろう。もう一つ、現在AIに関する国際的な規制が進んでいるが、『何か異議申し立てがあった場合、このように対応しなければいけない』という規則を定めるべきだ」と述べた。
（『ABEMAヒルズ』より）
