台風15号の直後にTwitter上をかけめぐった「濁流に飲み込まれる家や木々」の画像。投稿には「ドローンで撮影された静岡県の水害。マジで悲惨すぎる…」との文言が添えられている。
しかし、これらの画像は全くのデマで、画像生成AIを使って作られたものだった。にもかかわらず騙された人が続出し、たちまち拡散されて批判が殺到する事態に。
画像を作成した投稿者は騒動を謝罪。一方で、「ろくに確かめもせず、パッと見で信じ込んじゃってね。お前らの常識とネットリテラシーの無さが露呈しましたね！www」とも綴っている。
災害時のデマ情報は、避難や復旧作業の妨げなど思いがけない二次災害を招く可能性もある。この問題をどう考えればいいのか、27日の『ABEMA Prime』はフェイク画像を作った当事者を招いて議論した。
■投稿後の反響で「“これは広まるだろうな”と確信した」
当該のフェイク画像を作成・投稿したくろんさんは、経緯について「単純に画像を作るAIで遊んでいて、その結果を見せてみたかったというのがはじまり」と説明。普段から同じような投稿をしていたが、拡散されることはなかったとした上で「インプレッションが100を超えたくらいで異変に気づいて、“これは広まるだろうな”と確信した」という。
その後、信じる人が多数出てきたことで「まずい」と思ったものの、投稿は消さずに、謝罪後は開き直るような表現もしている。「一度広まってしまったので、消すよりはちゃんと『嘘だった』という情報をもって広めたほうがいいと思って残している。単純に謝ってしまうと、“もう責めてはダメだろう”“この程度で終わらせよう”というムードになってしまう。それを阻止して振り切ってしまったほうが、“こいつは悪い奴だ”と広まると思った。フェイクだということを知らせたいのと、こういう人も存在するので注意しましょうと、上から目線になってしまうが、知ってほしかった」。
2016年の熊本地震の際、発生直後に神奈川県に住む会社員の男性がTwitterに「地震のせいでうちの近く動物園からライオンが放たれた」などと嘘の情報を投稿。動物園には問い合わせの電話が殺到し、偽計業務妨害の疑いで逮捕され、災害時のデマによる全国初の事例となった。
くろんさんは「逮捕は多少は怖いが、悪いことをしたので仕方ないかなと思っている」とした上で、「投稿した当時は“静岡県で何が災害があった”という断片的な情報しか知らなかった。それがいつまで続いているのか、いつ解決するのかというのはまったく知らず、軽い気持ちで話題に触れる気持ちで流しただけだ。実際タイミングが悪く、当然よくないことだと思っている」と語った。
■災害時は情報が大量に「騙されずに済む一般市民は少数だと思う」
SNSでのデマやフェイクへの対策法を発信しているJX通信社の米重克洋社長は、今回の事態に警鐘を鳴らす。
「我々のFASTALERTはSNSで災害や事故、事件の情報を集めて、報道機関に配信している。その中で、画像の中に信憑性が低いものが写っていたら、ある程度AIでわかるようになっている。静岡のテレビ局にも使っていただいているので、くろんさんの画像が報道されていないのはそれが要因だろう。ただ、そういうものを通さない場合、騙されずに済む一般市民は少数だと思う。災害でものすごい情報量がある時に、1個ずつ写真をズームアップして“ここがおかしい”という見方をするのはよっぽどの暇人だ。災害対策という観点で、こういう情報を流してはいけないという前提は社会で共有したほうがいい」
ジャーナリストの佐々木俊尚氏も「水害が起きた直後にあの写真を投稿していたら、くろんさんやその投稿へのリプライで『テレビ局の◯◯です。DM送って大丈夫でしょうか。写真を使用させていただけませんか？』といっぱい来ていたと思う。そして、テレビ局や新聞に掲載されていた可能性は極めて高い。今後も大量に発生してくる事態に対してフィルタリングしきれないとなると、もはやどうにもならない。クリエイティビティのあるフェイクが新たに出てきたというのが今回の局面なんじゃないか」との見方を示す。
米重氏は「SNSは目撃者がダイレクトに情報をアップする場所になっていて、重要な情報源になっている。“嘘を嘘だと見抜ける人でないとネットを使うのは難しい”というようなテンションでみんなが投稿してしまったら、情報を1個ずつ検証していかなければならない。ものすごいコストがかかってしまい、災害などの実態を掴むのが大変になってしまう。今のところはAIで対抗できているが、今後も対抗できるかどうかはわからない。そこはなるべく勘弁していただきたい」と訴えた。（『ABEMA Prime』より）
■Pick Up
・「ABEMA NEWSチャンネル」がアジアで評価された理由
・ネットニュース界で話題「ABEMA NEWSチャンネル」番組制作の裏側
