小野田紀美経済安保・知的財産戦略・人工知能戦略担当大臣は16日の記者会見で、Xの新たな機能である生成AIのGrok（グロック）で、他人の画像を勝手に性的画像に加工する被害が相次いでいる問題について、X社に改善を求めたことを明らかにした。
【映像】「包丁は料理にも使うし人を傷つける」小野田大臣の説明（実際の様子）
会見で小野田大臣は「昨年末からX、旧ツイッターの新たな機能により、生成AI・Grokの画像編集機能が非常に簡便に活用できるようになり、他者が投稿した写真やイラストを第三者が無断で加工し拡散するケースが世界中で相次いでいます。性的画像への加工を始め各国で問題視されているところです。こうした状況を踏まえ私から事務方に指示を行い、早々に内閣府としてX社に対して速やかに改善するよう求めるとともに、書面による照会を実施し、速やかな報告を求めているところです」としたうえで、「仮に状況の改善が見られない場合においては、AI法に基づく指導を含め、是正に向けてどのような対応をしていくべきか等、法制上の措置も踏まえたあらゆる可能性について、関係省庁の協力も得ながら、早急に検討を進めたいと考えています」と述べた。
続けて「他者の画像やイラストには著作権を初めとする知的財産や、肖像権のようなプライバシー権が存在しており、ユーザーも適切なリテラシーを持って行動しなければ加害者になりうる点を注意していただきたい」と注意を呼び掛けた。
その後記者が「X社のGrokの問題に関してですけれども、昨日X社の方で、Grokアカウントによる性的な画像改変を不可にする技術的な措置を講じたと発表した。ただ、それ以降も加工ができることはこちらとしても確認しておりまして、これらのX社の対応に関して評価を伺いたい。それからもう1点、AI法には罰則はありませんが、今回Grokの問題、著作権法上あるいは人格権上の問題が生じていますが、罰則規定の導入も含めて、法改正などについてご意見を伺いたい」と質問。
小野田大臣は「昨日、X社が技術的な対策を講じたという旨の発表をしたことは承知しておりますけれども、同社から正式な連絡は来ておらず、その具体的な内容について速やかに報告を求めているところです。ご指摘いただいた通り、現時点においても引き続き不適切な画像の出力というものが見受けられるという報告も受けておりますし確認しております。こういったことをふまえると、一層の改善が求められる可能性はあるというふうに考えています。いずれにしましても先ほど申し上げた書面での照会の回答、同社の今後の対応状況を見つつ、関係省庁と密に連携をしながら、早急に改善を促してまいりたい」と答えた。続けて「AI法については、AI法によるものなのか他の方法によるものなのか、一番重要なのはこういった被害を起こさないようにすることでありますので、関係省庁と連携をして何ができるかを不断に見直していきたい」と述べた。
続けて別の記者が「今回の件はそういった画像がGrokで作られてしまうことを懸念、問題視されているのか、それともそういった画像がX上で広められてしまうことについて問題視されているのか、どちらでしょうか」と質問。
小野田大臣は「すごく難しいところで、作ることだけであれば、性的な改変とか著作権改変だけではなく、例えば自分が上げたものをこう変えたいというふうに良い利用の仕方もできるものでもあります。なので広めることに関しても、良いものを、著作権違反にならずに自分のものを良いものにして広めるということは問題であるわけではなく、結局自分の意図しないやり方の中で、自分のプライバシー権であるとかいろんな著作権が悪用、侵害されて広められてしまうということは良くないことというふうに思ってます」としたうえで、「ただこれをどういうふうに取り扱っていくとかっていうのが、Grokに関しては本当に特定のソフトを入れたり専門的な知識がなくても、1回で誰でもできてしまうっていうところで多分広がって、問題が広がっているところでもあるのかなと個人的には思っています。ここは本当に、AIであろうがなかろうが、こういったことは起きる問題もありまして、コラとかも何でもできるものはあるので、例えが正しいどうかわかりませんけど、そこに包丁が置いてあって、それをちゃんと料理に使うのか、人を傷つけるために使うのかっていうのは、使い手の問題でもあるわけです。なので、作れる作れないという問題だけじゃなく、それを使って行うことに対して、それが著作権であったりとか人のプライバシー権だったり名誉を侵害してしまうのであれば、AIに限ったことでなく、それぞれの省庁、それぞれの所管するところで対応していかなくてはいけないと思っています」と答えた。（ABEMA NEWS）
この記事の画像一覧
