熊本地震でもSNSのデマ情報 AI進化で見極め困難に 地震専門家「冒頭は正しくて、途中からおかしな内容に。地震予知の不確実性が悪用されている」

■AI進化で真偽の見極め困難に…正しい情報に途中からフェイクを混ぜ込む悪質な手口

　ジャーナリストで法政大学教授の藤代裕之氏は、フェイク情報を見抜くことの難しさを指摘する。「AIの精度が上がってしまって、特に画像と動画は本当に見抜くのが難しくなってきている。よく災害が起こると『SNSの情報はリテラシーを持って真偽を見抜きましょう』と呪文のように唱えているが、その呪文はかなりAIによって無効化されている感じがある。見抜けと言っている人に、本当に見抜けるのか聞いてみたい」と述べる。

　さらに藤代氏は、10年前と比べてXが「当てにならない」状態に変化した背景として、収益化の仕組みとアルゴリズムの変容を挙げる。「投稿してみんなに注目されて『いいね』を集めるとお金が入る『アテンションエコノミー』と、バズっているものを広く届けるアルゴリズムへの変化、これが大きく10年前と変わってしまった」と説明する。加えて、自動翻訳機能によって海外ユーザーが日本の災害をインプレッション稼ぎのネタにする構造も生まれているとした。

　パックンも、「各SNSはフェイクニュース対策を強化しようとした時期があったが、その後Xではフェイクニュース対策が弱体化し、ほとんど皆無になった。あれは娯楽だと思う。Xに事実や真実を求めるのは違うかな」と語る。

　日本地震予知学会会長で東海大学客員教授の長尾年恭氏は、今回のフェイク情報の悪質さについて、専門的な知見が巧みに利用されている点を強調した。「政府の地震調査委員会も断層について『近い将来の大地震は確実』とコメントしている。ところがSNSでは、その科学的なコメントを冒頭に正しく引用しておいて、そこから突然おかしな内容が入るという出し方をする人が多い」と指摘する。

　長尾氏は「デマ情報と正しい情報を切り分けなければならない。地震予知研究も進んでいるが、それを利用してフェイクで稼ぐ人もいる。いつ起きるかはまだ言えない段階なのに、その不確実性を悪用されている」と述べる。藤代氏も同様の構造を問題視し、「内容が難しいものこそが、まさにおあつらえ向きの話題だ。陰謀論やフェイクというのは全部が嘘ではなく、必ず本当のことを少し混ぜることが重要。最初の2、3行を読むと正しいことが書いてあって『この人はいいんじゃないか』と思って読んでいくと、全く違う主張が書いてある。こうした情報をネタにお金を儲ける人たちが出てくる」と語る。

　「地震予知が的中した」として拡散した投稿についても藤代氏は、「インプレッション稼ぎのためにたくさん投稿してどれか当たったらインプレッションが稼げる。数打てば当たるので大量に投稿され、アルゴリズムによって当たったものだけが流れてくる。その仕組みを利用した上手な使い方をしている人がいる」と解説する。