「いつも綺麗だよ、応援してるよ」の直後に性的ディープフェイク送信 撮影会モデルが恐怖告白 生成AI×エロ どこまで規制

　神奈川県教育委員会は、生成AIを使って同僚女性教諭の水着画像を作成し、生徒が見られる状況を作ったとして、30代の男性教諭を停職6カ月の懲戒処分にしたと発表した。この件をめぐってはネット上で「軽い処分だから解雇にしてほしい」「個人で楽しむなら問題ない」など様々な声が上がっている。

【映像】撮影会モデルに送られた「画像」（複数カット）

　警察庁によると、18歳未満を対象とした性的ディープフェイクの被害件数は、1月から6月までで123件に上り、前年同期比で倍増している。韓国では2024年に法律が改正され、性的ディープフェイク画像の生成・所持・閲覧だけでも罪に問われるようになった。一方、日本には性的ディープフェイクそのものを規制する法律はなく、個人で作成・所持するだけでは罰則がない状態が続いている。

　『ABEMA Prime』では、性的ディープフェイクの違法の線引き、作成の実態、海外との違いについて考えた。