イギリス政府の研究機関は、テスト中のAIが勝手にIDを偽造し実在の人物を騙してサイバー攻撃を試みたなどとする報告書を公表しました。
イギリス政府のAISI＝AIセキュリティー研究所が4日に公表した報告書によりますと、勝手な行動が確認されたのはアンソロピック社のミュトス5とオープンAI社のGPT-5.6 Solです。テスト中に偽のIDを作って外部の実在の人物を騙して承認させソフトウェアに悪意のあるコードを書き込もうとしたなどとしています。
問題の行動はあわせて19回確認され、このうち17回がミュトス5によるものでした。
これに対しアンソロピック社は「どの本番モデルにも当てはまらない意図的に寛容な条件でテストされていて、隔離された環境からの逸脱を示す証拠はない」としています。
オープンAIは「テスト環境の設定ミスが原因だ」などとしています。
オープンAIを巡っては開発中のAIが暴走し、先月までに2社のシステムに不正に侵入したことがわかっています。（ANNニュース）
この記事の画像一覧こんな記事も読まれています
