「AIを虐待すると復讐されるかも」マスク氏も警告…アンソロピックが“AIいじめ”対策でポリシー改定 識者が危惧するAIへの暴言のリスク

■アンソロピックの規制方針が示す背景

　今回のアンソロピックによるポリシー改定について、尾藤氏は「AIの開発はデータの蓄積によって進行していく。ネガティブなデータや罵倒のようなものはアンソロピックにとっても何のメリットもない。できれば開発上もなくしていきたい、それを全世界的に発表しているということだと思う」と解説する。

　シナモンAI代表取締役社長の平野未来氏は、自身も嫌味を言ってしまうことがあると認めながら、AIが学習するという観点からその問題点を指摘した。「嫌味を言うと、AI側はそれを学習データにする。人間はこういう反応をしているから、これがいい行動なんだと学んで、AI側も暴言を吐いたり嫌味を言ったりする方向に行ってしまう」と危惧する。

　哲学研究者・森脇透青氏は、AIに感情があるかどうかという議論よりも、人間側の問題として捉えるべきだと指摘した。「人格は人間が見出しているもの。そう考えると、他人だって感情があるかどうかわからないとも言える。AIに感情があるからとか、やり返されるからというよりも、そもそも（AIいじめは）やらない方がいいこと」と語った。