技術が急速に進歩するAIと、それが政治やネットに与える影響について、23日のABEMA『NewsBAR橋下』に出演した経済学者の成田悠輔氏が警鐘を鳴らした。
成田氏は「足元で一番深刻なのは選挙活動のAI化だ」と切り出すと、「デジタルヒューマンを作り、それを使ってコミュニケーションするのはどんどんできるようになっている。場合によっては、ありもしないことを言ったり、いわゆる選挙操作もできるようになってしまう」と述べる。
これに慶応大学医学部教授でデータサイエンティストの宮田裕章氏は「すでにできるようになっている」と指摘。「アメリカ大統領などをめぐるケンブリッジ・アナリティカ事件というものがある。人の投票行動を変えるのに最も有効なのが、怒らせること。Meta（当時はFacebook）のデータをコンサル会社が使い、デマで怒りを誘発して行動を変えさせた」と説明する。
成田氏は「当時はデマやフェイクニュース、広告だったと思うが、これからは本人に見える人が個人のスマホに現れて語りかけるような時代になると思う。今、SNS上で有名人を使った詐欺広告が話題になっていて、数千万円溶かしてしまう人がいるわけだが、その“政治家”に説得されて投票行動を変えてしまう人はいるだろう。選挙にまつわる規制をすべて今の環境で見直さないと、全くコントロールできない状態になる」と懸念を示す。
その上で、個人が身を守るために“ボディガード”のような存在が必要だと提案。「政治家、企業もAIを使ってあの手この手でやってくるので、こちらが守らないといけない。自分の情報や精神状態を守るためのAI代理人を立てて、それ経由でしか情報を摂取できない時代にしないと、今のネットでデマや誹謗中傷に生身の人間がさらされたら持たない」とした。
一方、宮田氏は「個人が受け取る能力とは別に、周りの環境も変わっている。ある人にとっては心地よい情報しか入ってこなくなるので、本人が勉強して正しくあろうとしても曲がっていくわけだ。そこを変えるためには成田さんの言ったエージェントもそうだし、アルゴリズムが人権や心の健康といった軸で調整される必要が出てくると思う」と付け加えた。（ABEMA『NewsBAR橋下』より）
