放置も介入もできず?ネットの“誹謗中傷”「10年前の4倍」に総務省が抱えるジレンマ
番組をみる »

 ネット上に飛び交う誹謗中傷やフェイクニュースについて、総務省は欧米で進む規制強化を参考に、対応策を盛り込んだ報告書案をまとめた。サービスを提供する事業者に対して、対応を義務付ける制度の法整備を進めるとしている。

【映像】今も続く“結婚反対” YouTubeやSNSで起きた新たな形の部落差別

 誹謗中傷やフェイクニュースの実態について、テレビ朝日政治部・総務省担当の小野孝記者は「件数は10年前の4倍になっている」と明かす。

「総務省が運営を委託している『違法・有害情報相談センター』に寄せられた相談件数をみると去年1年間だけで6000件を超え、10年前の4倍になっています。そのほとんどはTwitter、Google、メタといった海外のSNS事業者です。また、一般のユーザーからの削除要請を事業者別に見ると、Twitterは去年1年間で1万8000件以上、LINEは1万件弱、Yahoo!は30万件を超え、Googleは数カ月で22万件以上と、拡散が拡散を呼ぶからか、異常な実態が続いています」(以下、小野記者)

放置も介入もできず?ネットの“誹謗中傷”「10年前の4倍」に総務省が抱えるジレンマ

 こうした実態にSNS事業者は、どのように対応しているのかだろうか。

「一言で言うと、人海戦術とAIの組合せです。Yahoo!は、投稿削除を専門に行う部隊が70人、法的判断をする専門家は10人弱。LINEは、削除要請に対応をするチームが10人、モニタリングするチームが十数人から100人弱います。Googleなど海外の事業者は、日本の案件だけに対応する人数は正確には示せないとのことです」

 ネット上に日々拡散を続ける膨大な情報を、人間がひとつひとつ人海戦術で見ていくことは事実上不可能だ。小野記者は「最初にフィルターにかけるところはAIの力を借りて、そこに引っかかったものを人間がチェックする、あるいは引っかからなかったものはどうなのかをできるだけチェックするケースが多い」と話す。

「ただ、AIも文字通り“機械的に”キーワードで引っ掛けるだけなので、どうみても何の問題もない情報が自動的にアクセス不能になったり削除されたりということが新たな問題になっています」

放置も介入もできず?ネットの“誹謗中傷”「10年前の4倍」に総務省が抱えるジレンマ

 2020年5月、女子プロレスラーの木村花さんが自身に対する書き込みを読んだ後に死亡する痛ましい事件があった。今回の報告書案がまとまったのは、この事件がきっかけなのだろうか。

「総務省では、この事件が起こる前から有識者会議をスタートさせていました。この事件をきっかけに議論が活発になり、悪質な書き込みをした投稿者の情報を開示できるようにすべきだという流れが一気に高まり、その年には省令改正、それに続いて法改正となりました。最近では、法務省も協力して『侮辱罪の厳罰化』が可決され、総務省幹部も『人が一人亡くなることの意味は重い』とも話していました」

 人を死に追いやる可能性がある、名誉棄損、プライバシー侵害などといったコメント。時に正当な批判との線引きが難しくなるが、報告書案ではどんな内容が盛り込まれたのだろうか。

「批判との線引きは本当に複雑で、難しいです。意図的な虚偽もあれば、悪意はなくても誤った情報もあり、さらに事実関係は間違っていなくても、意図しない文脈で使われて印象操作に利用される場合もあります」

 その上で、小野記者はフェイクニュースの線引きについて「ロシアとウクライナの情報戦がいい例だ」と話す。

「ロシアでは3月に刑法が改正され、軍に関する報道を裁判所が虚偽と認定すれば、最高で禁固15年が課せられます。これにより、摘発を恐れた独立系メディアが次々と活動を停止されました。また、ウクライナ政府も、ロシアからの偽情報を止めるよう事業者に要請し、YouTubeが10日間で1万5000件以上の動画を削除しました」

放置も介入もできず?ネットの“誹謗中傷”「10年前の4倍」に総務省が抱えるジレンマ

 小野記者によると、削除されたYouTube動画には「戦争犯罪に関するまともな記録も多数含まれていた」という。

「過剰な削除に『やり過ぎた』との批判もありました。AIによる『機械的』な設定と、忖度しすぎる人間の弱さなのかもしれません」

 こういったSNS上の誹謗中傷について、海外ではどのような対策が行われているのだろうか。

「欧米、特にEUでは法規制による対応が進みつつあります。今年4月には、EU理事会と議会の間で、デジタルサービス法(DSA=DigitalServicesAct)という法律が、暫定ですが合意されました。もう一方のデジタル市場法(DMA=DigitalMarketAct)が、SNSのようなデジタルプラットフォームを利用する企業の公正な競争環境の整備を目的とするのに対し、この法律はユーザー保護を目的に、事業者の責任を規定するものです」

放置も介入もできず?ネットの“誹謗中傷”「10年前の4倍」に総務省が抱えるジレンマ

 暫定合意された「デジタルサービス法」では4500人以上のユーザーを持つ規模なら、モニタリングを行ない、義務に違反すれば前年度の総売り上げの最大6%の罰金が課される。

「『デジタルサービス法』の狙いは、違法コンテンツの削除や異議申し立てについての透明性や説明責任の確保です。治安の悪化や健康被害が出るなど緊急事態が発生すれば、投稿削除の体制の強化を要請できる、かなり強い規制になっています」

 今後、日本もEUのように、ネット上でユーザーを保護する法律ができるのだろうか。

「日本の総務省では、そこまでは考えられていません。取材に対して総務省幹部も『放置はできないが、介入するわけにもいかない』と答えています。会議のメンバーの有識者たちも『国家が基準を設けて民間の事業者に削除義務を課せば、営業の自由や表現の自由を奪う恐れがある』と主張していて、一方で、事業者任せにすれば、誹謗中傷やフェイクニュースを放置することになります。『削除しすぎれば、今度はこの民間の事業者がユーザーの表現の自由を奪う』と、まさにジレンマに入っているところです」

ABEMA/『アベマ倍速ニュース』より)

【映像】iPhone誕生15年 シリコンバレーの未来
【映像】iPhone誕生15年 シリコンバレーの未来
【映像】封鎖解除1カ月 上海の「明と暗」 (現地の様子)
【映像】封鎖解除1カ月 上海の「明と暗」 (現地の様子)
外務省幹部「大きな一歩だ」中国の“借金漬け外交”に不信感?日本がNATO首脳会議に招かれた理由