Twitter社が自社のAIのアルゴリズムについて調査を行った結果、政治的なコンテンツに偏りが存在したといい、IT界隈をざわつかさせている。
【映像】AIが偏見を助長？専門家がスタジオ解説（3：30〜）
普段何気なく見ているTwitterのホーム画面。実はここにAIの力が働いていることを知っていただろうか。ホーム画面の右上の星マークをクリックすると、「ホームではトップツイートが優先的に表示されます」というお知らせが表示され、最新ツイート表示に切り替えると、フォローしている人のつぶやきなどが新しい投稿から順番に上から表示される。
しかし、切り替え前の通常のホーム画面では、TwitterのAIのアルゴリズムが選んだ「おすすめ」ツイートなどが優先的に表示される仕組みになっている。つまり、最新の投稿ではないものが、知らないうちに目に入るようになっているのだ。
この推奨アルゴリズムについて、Twitter社は世界7カ国の政治家によるツイートやニュースメディアのコンテンツを調査。すると、政治的なコンテンツに関して、政治的右派のアカウントによるツイートの方が、左派によるツイートよりもアルゴリズムによって増幅されていたという。つまり、右派のコンテンツほどAIが“推す”傾向にあったのだ。
例えば日本では、自民党が一番増幅率が高く、共産党は低い傾向となっている。日本ではそれほど差は出なかったものの、カナダでは左右の格差が大きく開いている。
この調査の結果、7カ国中6カ国で、政治的右派のツイートがより増幅されている結果になったという。なぜこのような結果となったのか。Twitter社のソフトウェア・エンジニアリングディレクターのラマン・チョードリー氏は「それが"起きている"ことは判明したが、なぜそうなるのかはわからない。ユーザーの意図による側面やプラットフォーム上の人々の行動による側面もあるが、原因はわからない。ただ、この情報を人々に共有することが重要」などとコメントしている。
こうしたAIのアルゴリズムを巡ってはFacebookでも問題点が指摘されている。
アメリカ議会でFacebookの誤情報チームのプロダクトマネージャーだったフランシス・ホーゲン氏はFacebookが抱える問題点を内部告発。「私が今日ここにいるのは、Facebookは子供たちに害を与え、分断を助長し民主主義を弱めているからです」と主張し、同社のアルゴリズムが、過激かつ分断をあおるコンテンツを前面に押し出すことをやめない限り、世界中でより多くの暴力行為が起きることになると証言した。
これに対しFacebookは、ホーゲン氏の主張の内容について信憑性を疑問視し、同意しないとする企業声明を発表している。
人間の心の奥底にある感情を学習するAIを中立に運用することは難しいのだろうか。まだまだ解明すべき点は多くありそうだ。（『ABEMAヒルズ』より）
■Pick Up
・「ABEMA NEWSチャンネル」がアジアで評価された理由
・ネットニュース界で話題「ABEMA NEWSチャンネル」番組制作の裏側
