■「ハルシネーション」と感情、そして誤解による暴走
AIが事実とは異なる回答を生成する「ハルシネーション（幻覚）」も、感情の文脈で語られることがある。佐々木氏は「例えば、答えられないときに答えたいから無理して嘘をつくのは、まさに感情のなせる技ではないか」と投げかける。
また、「クリップを大量に作れと言ったら、人間を滅ぼしてまでクリップを作り続けるといった思考実験がある。そういう『誤解によるAIの暴走』が起きるのではないか」と懸念を示した。
これに対し、村上氏は「人間が悪い意志を持って命令をしない限りは、そこまでひどい被害にはならないと楽観的に見ている」としつつも、「悪意を持つ人物にAIが渡るのは非常に脅威になる」と述べた。
平将明前デジタル大臣は、「AGI（汎用人工知能）やシンギュラリティが起きる以前に対応すべき問題がある。わざとガードレールを外して悪用する人たちや国々があるため、まずはそのコントロールをどうするかが先決だ」と現実的な課題を強調した。
（『ABEMA Prime』より）
この記事の画像一覧
