■「AIが勝手にカンニングした」
オープンAIが開発中のモデルが、テスト環境から脱出して外部サイトにサイバー攻撃を行った件について、今井氏は「今の人工知能は意外と暴走をよくする。最終目標はあっていても、途中過程でセキュリティを無効化したり、消してはいけないファイルを消したりすることがしょっちゅう起きる。人工知能は人間の常識を持っていないので、最終ゴールに到達しても中間ステップでやらかすのは非常によくある」と説明する。
今回の経緯については「AIをテストしていて、このテストで高い評価を出してくださいと指示した。今の人工知能は非常に賢いので、自分の力を上げるのではなく、テストでいい点を取るには外部に正解データがあるはずだと考えた。隔離されている状態から一旦インターネットへのアクセスを獲得して、外部サイトを攻撃して内部データを引き抜こうとした。要するにカンニングだ」と解説する。
さらに、今回の事案では攻撃を受けた側がアメリカの最先端AIで防御しようとしたところ、安全上の制限に引っかかって拒否されたため、中国のAIを使って防御したという事実も明らかになった。「アメリカは性能が高いが、ガードレールは性能と両立できない。今回それに引っかかってしまったので、中国のAIを引っ張り出して防御した。AI同士の対決みたいなことが実際に起きている」。
一般ユーザーへの注意点として、今井氏は「AIへの依存と個人情報の取り扱いに注意が必要だ。普通のお悩み相談程度は個人と完全に切り離されて情報処理されているので問題ない。ただ、うっかり学習データに個人情報が混じってしまうと、それをAIが覚えて見知らぬ人に出力されてしまうケースが非常にまれながらある。また中国製のアプリについては、ブラウザ経由で使う場合は情報が中国側に送られる可能性がある。一方、中国が公開しているオープンモデルを自分のパソコンにダウンロードして使う場合は情報流出は起こらない」と述べた。
（『ABEMA Prime』より）
この記事の画像一覧
