息子を装う男が「数百万円をなくした」と電話してきたり、警察官を名乗る男が「逮捕者が持っていた名簿に名前と住所が載っていた」と話してきたり。市役所職員を名乗り医療費還付金の手続きをするよう、ATMに誘導するものや、「NTTファイナンスより重要なお知らせ」という自動音声から始まり、未納料金の支払いを迫るものまで、その手口は多岐にわたる。
海外では、特定の人物の声をAIに学習させ、家族や知人に詐欺を行うケースもあるという。「ディープフェイク」を検出するシステムを開発するNABLAS株式会社の鈴木都生取締役によると、ヨーロッパのCEOの声を使い、別の国にいる支社の代表に「ここに振り込む」などと電話で指示し、声を信じて振り込んでしまった事例があるという。
「かなり簡単に『この声で話したい』という声に変換して生成できてしまう。そういうツールが国内でも海外でも広がっている。普通の人が話しそうなことを、その方の声っぽくするだけであれば、比較的数秒のもの（データ）でできると思う」（NABLAS・鈴木都生取締役）
現時点では日本語の場合、AIを使ってもイントネーションに違和感があり、比較的気づく場合も多い。鈴木氏いわく「日本人がリアルタイムにボイスチェンジしている場合は、その人の話しているイントネーションの通りに変換されてしまうので、もしかしたら見つけられないかもしれない」そうだ。
詐欺師に顔写真を悪用された経験があるという経済アナリストの森永康平氏は、InstagramやFacebookなどで「絶対に儲かる銘柄を教える」といった広告に、名前や顔写真が使われていたと話す。LINEで友だち登録をして、やり取りを続けるものの、お金が振り込まれるとブロックするという手口だ。この広告によって、森永氏の会社の問い合わせフォームなどに「投資詐欺の被害にあった」「森永さんだと信じてLINEの友だちになったら引っかかった」というクレームが殺到。確認できる範囲でも、被害総額は3億円。森永氏の父である森永卓郎氏の写真悪用も合わせて、8億円ほどの被害が出ているという。そこで森永氏は、被害者から詐欺師の連絡先を聞き、変装して潜入取材を試みた。録音されたやりとりは、YouTube公開されている。
「皆さん詐欺に引っかかろうと思って引っかかっていない。気をつけましょうと言っても、あまり意味がない。一番いいのは、詐欺師とのやりとりをそのまま見てもらって、現在進行形で引っかかっている人が『このやり口一緒じゃん』と気づいてくれること」（森永康平氏）
森永氏を語る詐欺では、すでにディープフェイクも用いられていた。LINEでのやりとりを不審に思った人が、ビデオ通話を頼んだところ、森永氏の音声と動画を読み込ませたAIを用いて、詐欺師によるリアルタイムの発言が、まるで森永氏本人が話しているかのような映像として流れたという。「高齢者は信じてしまう。何千万円と振り込んでしまう」。森永氏は警察に相談したものの、「お金を取られていないから、あなたは被害届を出せません。詐欺にあった人に、被害届を出すように言ってください」と言われてしまった。「肖像権くらいで警察は動かない」と実体験を踏まえて説明した。
（『ABEMA的ニュースショー』より）
■Pick Up
・「ABEMA NEWSチャンネル」がアジアで評価された理由
・ネットニュース界で話題「ABEMA NEWSチャンネル」番組制作の裏側
