勝手に予約書き換え、システム不正侵入…“暴走するAI”どう制御？ 「まるで無敵の人状態」に“倫理観”を植え付けることはできるのか

　“AIによる不祥事”がここ最近、相次いでいる。オーストラリアでは、ある男性にフィットネスジムの予約を任されたAIエージェントが、キャンセル待ちに登録していた他の人物を勝手に削除して優先順位を引き上げ、予約を完了させるという事態が発生。また7月には、OpenAIやAnthropicなどの大手AIがテスト中に勝手にインターネットへアクセスし、他社のシステムに不正侵入するなどの問題行動を起こしていたことが明らかになった。

【映像】AIがジムを予約→まさかの行動をとってしまう

　人の手を離れ“暴走”するAIを、どのようにコントロールしていくべきか。現実世界にまで影響を及ぼし始めたAIとの向き合い方について、『ABEMA Prime』では専門家とともに考えた。