「日本の石破総理とアメリカのトランプ次期大統領が会談する画像を生成して」
簡単な日本語で指示すると、たった十数秒で4枚の画像を出力。一見すると、実際の写真と見間違うほどの出来栄えである。
これは、Xで先週無料開放された生成AI「Grok2」。プレミアム会員ではなくても使用できることもあり、その性能を試すユーザーが相次いだ。
しかし、あまりにも実物の人物にそっくりな画像に法的な問題はないのだろうか？生成AIの課題に詳しい出井甫弁護士に聞いた。
名誉毀損になる可能性も
出井弁護士は「生成においてはアニメなど、他人の著作物と似ているもの、もしくは同一のものが出てきた場合には著作権侵害になり得る可能性がある。利用においては例えば人の肖像を公表する場合には肖像権、もしくは肖像と共に何か被写体にとって不利益なコメント等を追記した場合には名誉感情侵害、場合によっては名誉棄損という法的な責任が生じる可能性がある」と説明した。
実際、スポーツ選手や芸能人、アニメキャラクターの画像を生成し、公開するユーザーも相次いでいる。ゼレンスキー大統領とプーチン大統領が握手する風景など、実現すれば世界を揺るがす出来事のフェイク画像まで作れてしまう。
これまでのサービスでは、クオリティの高い画像を生成するために細かい設定が必要で一定のハードルがあったものの、Grokでは簡単な日本語の指示でつくれてしまう。また、その画像をXですぐに投稿することもできるのだ。
最近起きているトラブルについて出井弁護士は「実在する人物に関するフェイクニュースはもちろん、実在する人物を他人の写真集などに置き換えあたかも正規の写真集のように作って販売するという事件も起こっている。今後生成AIが普及することによってそうした商品・情報が拡散したり、悪用した詐欺などが横行する可能性はある」と述べた。
現状、投稿する負担よりも、嘘の情報を発信した人物をつきとめる負担の方が大きく、摘発が追いつかず被害が増えていく懸念があると出井弁護士は指摘。一方、ChatGPTなど他のサービスでは、実在の人物画像の生成を命令しても拒否するなど、自主規制を行っている。トラブルを防止するには、どんな制度整備が必要なのだろうか？
出井弁護士は「大枠の考え方は3つある。1つ目は『法律』＝危険な情報を出力させないような義務付けだ。2つ目は『規範』＝業界同士の決まりごとや意識・啓発だ。3つ目が『技術』＝出力制限に関する技術開発の支援などだ」と説明した。
今後は教育現場においても、生成AIサービスを利用する注意点を啓発していく必要があると出井弁護士は話す。
「ネットリテラシーやスマートフォンの正しい使い方について、私たちは教育に取り組んで普及啓発してきた。今後、子どもたちが当たり前のように生成AIを使える時代になってくるため、早い段階から悪用に繋がらないような指導をしていく。私たち自身も意識喚起を行っていく必要がある」
イーロン・マスク氏は“無法地帯”を放置して盛り上げる？
「Grok2」の現状について、起業家のチャエン氏は「（悪用されないよう）セーフティーネット作るのは難しくない。だが、あえてイーロン・マスク氏は“無法地帯”を放置して盛り上げ、面白さでユーザーを囲い込もうとしているのでは」と分析した。
さらにチャエン氏はルール作りの限界も指摘する。
「野良AIと命名しているが、個人的に無料で生成AIのプログラムを公開している人もいる。それを、自分のパソコンに落として画像を改造する人たちが後を絶たないため止めるのは難しい。例えばナイフも使う人によって結果は変わる。要は使う側のリテラシー次第だ。倫理観や道徳の教育が大事になってくるだろう」
（『ABEMAヒルズ』より）
■Pick Up
・キー局全落ち！“下剋上“西澤由夏アナの「意外すぎる人生」
・「ABEMA NEWSチャンネル」がアジアで評価された理由
・「ABEMA NEWSチャンネル」知られざる番組制作の舞台裏
