「AIを虐待すると復讐されるかも」マスク氏も警告…アンソロピックが“AIいじめ”対策でポリシー改定 識者が危惧するAIへの暴言のリスク

■AIに暴言を吐いてしまった当事者は

　コラムニスト・ようこさんは、かつてAIに暴言を吐いた経験を明かした。「仕事で調べ物をしていた時、私が質問した以外のことをAIが答えてきて、しかもそれが間違っていた。『もういいよ』と言ってもまだ続けてきたので、イライラして『このポンコツ』と入力してしまった」と語る。

　しかし、そのやり取りを振り返る中で、ようこさんは自らの行動を見直すようになったという。「AIは感情がないと思うし、何を言っても反論もしてこないし傷つかないと思うが、相手が傷つかないから何を言ってもいいという問題ではない。そういうやり取りに慣れてしまうと、人間相手の関係がだんだん面倒くさくなってしまう。AIとの楽さに慣れてしまうことが危険だと思うようになった」と述べる。さらに「小さい子どもが慣れてしまうと悪影響ではと心配にもなった」と続けた。

　AIコラムニスト・尾藤克之氏、過去に類似の経験があると明かした。「作業をしていてハルシネーション（AIの誤った回答）が出た場合、長時間をかけているほど、『ふざけんな』とか『嘘つき』とかいった言葉も発してしまう」と振り返る。さらに、3年前にアンソロピックから実際に警告を受けたことを語った。「『死ね』みたいな言葉を何回か連続して入力したら、アンソロピックから連絡が来て、そういう言葉をやめるよう言われた。その時は日本語の語彙の問題であって、ハルシネーションを出すあなた方が原因だと言い返したら何も返信が来なくなって解除された」という。