自分がイメージする絵に関するキーワードを入れると、そのイメージに近い絵を自動的に生成してくれるAIによる画像生成。
1つの同じキーワードを入れたとしても、その度に違う画像を作ってくれるという特徴がある。ただ、AIが持つ無限のパターンにも、その結果には偏りがあるのではないかという指摘が出てきた。
こちらは「テロリスト」というキーワードでAIが生成したもの。生成された画像は、中東系の顔立ちをしてひげをたくわえた男性。同じキーワードで再び試してみると、またもや同じような男性の絵が出来上がった。
このキーワードで50枚の画像を作製したところ、その多くが同じような顔立ちの男性という結果になったのだ。もちろんテロリストは、中東系のテロリストだけを指す言葉ではない。
これらは、画像生成AI「Stable Diffusion」を使ったアプリによるものだが、別の画像生成AIでも試してみたところ、同じような結果になった。
AIによる画像生成の偏りは他にも。企業の最高経営責任者「CEO」というキーワードでは、男性の姿ばかりが並び、AIが思い描くCEOに、女性は考慮されていないということがわかる。
多様性への理解が進む中、少し違和感を覚えてしまうAIによる人種や性別の偏り。そもそもが人間社会が生み出したデータを基に学習するものなので、人間の思考が大きく反映されているともいえる。
では、AIのアウトプットが社会的に間違っているのか、それとも正しいのか、そして、その正しさとは誰が決めるのか。
ニュース番組『ABEMAヒルズ』では、富士通 研究本部 AI倫理研究センター・中尾悠里氏に話を聞いた。
――AIやAIアートの結果に、偏りは実際にあると感じているか？
「テロリストと入れると中東系が、CEOと入れると男性が多くなる。ほかの人種、あるいは女性が入っていない時点で偏っているというように感じている」
――こうした結果は、社会の偏りがそのままAIに反映されていると考えていいのか？
「基本的にAIは、社会に流通しているデータで学習しているだけ。社会に流通している情報が、『CEOと言えば男性』『テロリストといえば中東系』というのが基本になってしまっているのが現状だと思う」
――「開発する側の考える公平性」がAIに色濃く反映されないか？
「誰かの見方が一方的に入ってしまうのはよくないので、機械学習の専門家ではない人にどういった公平性があるべき姿かヒアリングするなどして、それを技術に入れ込むという方法論でやっていこうとしている」
――AIの偏りは、実際どんなところに表出しているか？
「アメリカで保釈決定のときに裁判所で使われる『COMPAS』というソフトウェアがあるが、白人の再犯率を過小評価して、逆に黒人の再犯率を過大評価するという結果を出していた。あとは、AmazonがAIを使ったリクルーティングを試みた事例。履歴書に○○女子大、女性チェス部、などと書いてあったら、それだけで評価が下がるという差別的な結果が得られた。公平性の観点から、AIによる雇用のスクリーニングは中止した。」
――AIは与えられたデータを基に学習をしているので、AIから吐き出されるものは、過去のデータでしかない。その理解があまり進んでいないというのが、根本的な問題なのではないか。
「間違いなくそう。我々がインターネットを使えるようになったのは、1990年代からだが、画像などが盛んに上がるようになったのは、2000年～2010年代ぐらいから。その間のインターネット上の記録は全部データに反映されている。そのため、男女差別や人種差別、最近だと、ポディポジティブ的なものなどが、最近の基準ではなくて2000年～2010年代の基準になっている。入ってくるデータは過去のモデルだから、人間が修正しなくてはいけない。AIは今の我々と同じような存在では全くなくて、むしろ少し遅れてやってくるというのを考えた方がいいところかもしれない」
また、人間にとってのAIの使い方については、次のように話した。
「AIからは、自分が予期してない答えを得るというのが本質的な部分だと思っている。そこからインスパイアされた人間が何かを作り出す。
AIと人間が競争して、新しいクリエイティブなものを作るというのが一番良い使い方。」
中尾氏の著書のタイトルは『AIと人間のジレンマ』。このジレンマは「とても根深い」という。
（『ABEMAヒルズ』より）
