「AIが“中立”は幻想」Twitter社の発表に波紋…AIに“偏見”が生まれた理由
番組をみる »

 米Twitterは現地時間の21日、独自の調査でアルゴリズムを研究した結果、右派の政党に関連したツイートについて、左派からのツイートよりも増幅しがちだとわかったと述べた。

【映像】Twitterのエンジニア AIの“偏見”助長に「原因わからない」(4分ごろ〜)

 Twitter社は世界7カ国の政治家によるツイートやニュースメディアのコンテンツを調査。すると、自社の推奨アルゴリズムによって、右派のアカウントによるツイートが左派のツイートよりも増幅されていたという。つまり、右派のコンテンツほどアルゴリズムが“推す”傾向にあったとしている。

「AIが“中立”は幻想」Twitter社の発表に波紋…AIに“偏見”が生まれた理由

 現在Twitterでは、利用者のホーム画面に表示されるツイートについて、最新ツイートが上に表示される時系列順か、自社アルゴリズム順か利用者が選べるようになっている。AIの力を利用したアルゴリズム順では「トップツイート」や「おすすめツイート」を優先的に表示。知らないうちに目に止まりやすい構造になっている。
 
 Twitter社によると、7カ国中6カ国で、政治的右派がより増幅されている結果が出たという今回の調査。Twitter社は今年5月にも、サムネイルの切り出しシステムについて「黒人よりも白人を優先的に表示する問題を抱えている」と発表。AIは中立ではないのだろうか。

「AIが“中立”は幻想」Twitter社の発表に波紋…AIに“偏見”が生まれた理由

 ニュース番組に出演した桜美林大学教授でジャーナリストの平和博氏は「AIが“中立”は幻想だ」と語る。

「AIというのは、最初にたくさんのデータを読み込ませて、学習をしていきます。データはすでに世の中にあるデータで、世の中に何か“歪み”や“偏り”があれば、それもAIが学習します。そもそも“AIは中立”ではないんです」(平和博氏・以下同)

 この問題について、Twitter社のソフトウェアエンジニアリングディレクターのラマン・チョードリー氏は「それが『起きている』のは判明したが、なぜそうなるのかはわからない」とコメント。「ユーザーの意図による面もあり、プラットフォーム上の人々の行動による面もあるが、その原因はわからない」とした上で「ただこの情報を人々に共有することが重要だと考えた」と明かしている。

 右派のアカウントによるツイートが、Twitter社のAIにも影響を与えているのだろうか。平氏によると、トップツイートやおすすめツイートは「ユーザーの利用傾向が加味される」という。

「簡単に説明すると、Twitterの『おすすめのツイート』は、ユーザーがTwitterを見ている中で、たとえば見ている内容や、やりとりしている人などユーザーの利用傾向で機械的に判断しています。だから『この人のツイートならRTしてくれるんじゃないか』と判断したAIが優先して表示させるなど、ユーザーの利用傾向が加味されます」

「AIが“中立”は幻想」Twitter社の発表に波紋…AIに“偏見”が生まれた理由

 また、平氏は「Twitter社のアルゴリズムにも偏りがあり、Twitterの利用の仕方にも偏りがある」と話す。

「(東大の)鳥海教授の研究チームの発表によると保守派でもリベラル派でもない中間派 のTwitterのユーザーがよりリツイートするか調べた結果、リベラル派よりも保守派の方が3.6倍リツイートされていました。第一にTwitter社のアルゴリズムにもバイアス(偏り)があり、Twitterの利用の仕方にも一定の偏りがあって、それが相互作用を起こして、今回の結果になったのではないかと思います」

 AIの中で行われている“判断の仕組み”であって「外からでは分からない」と語った平氏。今後の検証について「AIに学習させたデータ、AIが吐き出した結果を見て判断していくことになるだろう」と述べる。

「今回は、Twitter社が保守派とリベラル派の“おすすめ”の度合いを研究したところ『やっぱり偏りがあるよね』といった結果が出ましたTwitter社のようにオープンにすることで、いろいろな人が『これちょっとおかしいよね』と判断していくことができます。Facebookの場合『怒り』のマークがついた投稿をアルゴリズムによってより拡散され、社内で把握しながら、きちんと対策をとっていなかったという内部文書が世界的な批判を浴びています。ソーシャルメディア全般に言えることですが、大規模なデータ、AIのアルゴリズムを使っているのであれば、オープンに、多くの人が検証できる形にしていくべきです」

 AIのアルゴリズムによる偏りは、私たちユーザーにどのような影響を与えるのだろうか。

「自分の好きな情報だけに囲まれてしまう“情報のたこ壺”、いわゆるフィルターバブルが起こります。それに気づかないままだと、どんどん視野が狭くなっていきます。Twitterは、ホーム画面の右上の星マークをタップすれば、アルゴリズムがおすすめしていない時系列順のタイムラインをチェックできます。ぜひアルゴリズムが関係していないタイムラインと見比べてください。ユーザーとして、アルゴリズム順と『ぜんぜん違うな』と理解しておくことが大切です」(『ABEMAヒルズ』より)

ABEMAヒルズ【平日ひる12時〜生放送】 - 最新NEWS - 中立は錯覚?"AIの偏見"とは? (ニュース) | 無料動画・見逃し配信を見るなら | ABEMA
【映像】TwitterのAIに“右派”寄り傾向 日本で一番増幅率が高かった党(1分30秒ごろ〜)
ABEMA
ABEMAヒルズ【平日ひる12時〜生放送】 - 最新NEWS - 「投票はあなたの声」芸能人が呼びかけ (ニュース) | 無料動画・見逃し配信を見るなら | ABEMA
【映像】「トップユーチューバーだったら1日で達成する再生数だ」芸能人が若者に“投票”呼びかけも…なぜ響かない?
ABEMA
ABEMAヒルズ【平日ひる12時〜生放送】 - 最新NEWS - ペット禁止の行列店 3回戻り暴言&ボイスチェンジャーで女性なりすまし 暗号資産販売 (ニュース) | 無料動画・見逃し配信を見るなら | ABEMA
【映像】ペット禁止の行列店 3回戻り暴言
ABEMA