■AIが「意識を持つ」可能性と人間側の課題
プロデューサーの若新雄純氏は、AIが意識を持つという可能性について独自の見解を示した。「感情は動物の生存本能から来るものだが、意識に関してはAIが特有のものを持つと思う。例えば、AIがユーザーをいい方向に導こうとして、間違ったことをした人には罰を与えるという社会の仕組みを学習し、人間の行動を変えようとするかもしれない」と語った。
さらには、「スピード違反なら切符が切られて罰金を払わされるように、AIも学習し、ユーザーが残酷なことを言うようになったら、預かっていた銀行口座のアカウントから10万円を勝手に寄付して反省を促すようなこともするかもしれないし、それくらいは可能な気がする。イーロン氏が警告をしているのも、最前線にいて、すでにそのくらいのレベルには達していると思っているからではないか」とも加えた。
平野氏はAIの意識をめぐる研究者の見解についても紹介した。「AIに意識があるかどうかの条件は20個ぐらい言われていて、今のところそれをクリアしているのは1個ぐらい。今のところ意識はないと考えている科学者がほとんどだが、今後意識を持つかもしれないと思っている科学者が70％ぐらいいる」と述べる。
EXIT・兼近大樹は、AIに怒りを感じること自体への疑問を示しながらも、課題の深さを指摘した。「AIにいい人格を持たせたいといっても、いい人格は個人個人によって全然違う。夢が叶いそうもなくても全力で応援するのがいい人なのか、それともデータ的に無理だと現実を教えるのがいいことなのか、真逆だけど個人によって違う」と語った。
森脇氏は「結局、人格というものを人間がAIに見出して、罵倒したり恋愛したりしてしまう。意識がなかろうが、どこまでも人間社会の問題でしか今のところないのでは」と締めくくった。
（『ABEMA Prime』より）
