鳥取県で4日、実在する児童を対象にした性的ディープフェイクの作成や提供について、罰則を科す改正条例が施行された。
性的ディープフェイクの対策が求められる一方で、「全ての画像を裸にする」などとうたい、裸に加工することを専門にした画像生成サービスが存在する。こうしたサービスは法的に問題ないのか。生成AIに関する問題に詳しい弁護士に話を聞いた。
“ヌード加工サービス”とは？
「偽の裸の画像」を生成することに特化したサービスでは、利用料を支払って事業者のサイトに人物の画像をアップロードすると、衣服を着用している部分に裸の画像が合成される。
ニュース番組『ABEMAヒルズ』はそうしたサービスの一つを使い、服を着た架空の女性の画像を取り込んでみた。すると、性器を含め体のパーツがすべて生成され、まるでこの女性が本当に服を脱いだかのように見える偽の裸の画像ができあがった。
さらに、SNSや匿名の掲示板には、このようなサービスを使い、偽の裸の画像の作成を「請け負う」存在もみられた。DMなどで依頼者から受け取った画像を裸に加工し、代金をコード決済で請求するなどと書かれているものもある。
番組では「代行」を自称する複数のアカウントに取材を申し込んだが、いずれも指定した期日までに返事はなかった。
人物を裸にするような画像生成は、ChatGPTに命令しても拒否される。また、画像生成AI『Stable Diffusion』を手掛ける、イギリスのStability AIは、現地時間の7月31日から利用規約を改定し、露骨に性的なコンテンツを禁止すると明記した。
以上のように、多くのAI事業者がわいせつな画像や動画を生成できないように規制をかけているものの、裸に加工するサービスを使えばディープフェイクが作成できてしまう。サービスの運営は法的に問題ないのだろうか。
サイト運営者には法的責任なし？
