■「付き添う親は母親、医師は男性」AIが可視化する実世界の偏見
7月9日（日本時間）、OpenAIから新たな音声モデル「GPT-Live」がリリースされた。これによりAI分野では、文章や画像の生成だけでなく、違和感のない音声会話も可能になった。
このように、AIの外形的な不自然さは解消されつつあるが、気になるのは導き出す回答、いわば中身の問題だ。複数の画像生成AIで「病院に付き添う親」と性別を指定せずに入力すると、出力されるのは母親の画像ばかりになり、「医師のイラスト」を作成すると男性とみられる姿が多くなる偏りが見られた。
こうした現象について、平野氏はAIの学習メカニズムの課題を指摘する。
「AIは私たちのその世界、実世界を学習してAIができている。これまでのいろいろなデータがバイアスがかかっていると、そのAIが出力する結果というのもバイアスがかかってしまう。これは解くのがすごく難しい」（平野氏、以下同）
これまでも社会に根付いてきた思い込みや偏見がAIの出力によってたびたび可視化されてきた。Amazonが2014年から開発してきたAIによる採用システムでは、履歴書に女性を示す言葉があると評価が下がることがわかり、その後開発チームが解散していたことが報じられた。過去の男性中心の採用実績をそのまま学習したためだった。
また、2022年当時、広く使われるようになってきた画像生成AIでは、「テロリスト」というキーワードで画像生成を支持すると髭を蓄えた男性が並び、「CEO」というキーワードではほとんどが男性で出力された。
「AIはどうしてもその実世界の写し鏡みたいなところがあり、むしろ増幅器みたいな側面があって、私たちの世界がより増幅されているのかなという風に思います」
「修正すると別の歪みが出る」Geminiの補正が示したジレンマと多様性の模索こんな記事も読まれています
