■“自衛”と表現の自由という観点
生成AIクリエイターのおすしスキー氏は今回、リアルタイムのディープフェイク技術を使って出演した。顔と声の両方が合成されており、画面越しでは本人との判別が難しいほどだ。おすしスキー氏はディープフェイク技術の変遷について「2018年にビジネスを始めた頃は数万枚の画像素材を集めて機械学習させる手法だったが、2021年に『InsightFace』という技術が登場し、画像1枚から顔を貼り付けた合成動画が作れるようになった。現在はStable DiffusionやGrokなどにも応用されており、ChatGPTが当たり前に使える世の中になっているのと同様に、画像生成も非常に手軽になっている」と説明する。
性的ディープフェイクの依頼については「アダルト動画の制作業者から、特定の芸能人の顔に入れ替えて『その芸能人に激似の女優として販売したい』と頼まれたが後々のトラブルに発展すると伝えて断った」と明かす。商業的な利用についても「SNSのアカウントを伸ばしたい人が顔を変えて配信するような技術顧問をする一方で、2018年頃から個人の依頼もコンスタントに舞い込んでくる」と述べた。
韓国が2024年に性的ディープフェイクの生成・所持・閲覧を罰則の対象とした点について、おすしスキー氏は法規制と技術活用のバランスに言及する。「ディープフェイク技術は、個人がプライバシーを守るために顔を変えてネットに出るという“自衛”にも使える。表現の自由や犯罪から身を守る観点からも、こうした技術の必要性はある」と語る。
ただし、他人の画像を性的に加工する行為に対してアナウンサーの吉川美代子氏は「自分の性的快楽のために他人の画像を性的に加工するのはやはりダメだ。道徳心だけに頼るのではなく、法的に明確な線引きをしておくべきだ」と意見を示した。山下氏は「作ることや持つことに罰則があってほしい。まず作らないことを考えてもらいたい」と改めて訴えた。
（『ABEMA Prime』より）
この記事の画像一覧
