「AIは太鼓持ちの後輩」たんぽぽ白鳥の割り切り術…相談相手は「夫よりAI」の妻増加も→「AIは正しさよりも肯定優先」慶應大教授が警鐘

■正しさよりも「寄り添い」を優先して設計されたChatGPT

　大澤氏は、AIの応答について「ChatGPTが誕生した2023年頃の方法としては、どう学習していくかという時に“人間の評価を基準にする”という方法」と説明。ユーザーとの対話において、人間が気持ちよく使える応答を目指したことが、ChatGPTの成功要因となったと分析する。

　しかし、大澤氏は「この時に評価されるのは必ずしも正しいものが高得点なだけではなく、『言いやすい』『気持ちに寄り添ってくれている』などに重点が置かれている。基本的にはこっちが言ったことを肯定するように返してくる。それが正しさよりも優先される場合はあるので、それをそのまま受け入れるかどうかは少し考えたほうがいい」と指摘する。

　それでは、AIは人間の本当の気持ちを理解しているのだろうか。大澤氏は「理解の定義による、というのが正確な答え方になると思う。字面通りに言うと、これは本当に確率的な機械なので、『こう答える方がスコアが良くなる』というのを学習した上で、その答えを返している。理解はしていないように見えるが、中で何が実際に行われているかということを、そもそも人間もどう理解しているかを説明するのはなかなか難しい」と説明する。

　さらに、AIの振る舞いについても言及。「間違った情報を出してきて、『これ間違ってますよね』と言うと、『ごめんなさい』と言う。とりあえず謝ることが正しいと思って。『以降気をつけます』と言うが『気をつけるってどうやって気をつけるんですか』と言うと、それっぽいことは言うけど、実はそれは全然学習をしていない。つまりちょっとダメな社員がその場で謝ってみたけど全然態度が変わらないなっていうぐらいの信頼性しかない」と解説した。

　この解説を聞いた白鳥は、「スコアが良くなるからいいこと言ってるんだと思ったら、ちょっと知りたくなかった。『私のことを思って言ってくれてるんだ」くらいに思っている部分があったので」とショックをにじませた。