日進月歩の生成AI。そのリスク・負の側面の最前線に迫る。
現在進行しているという生成AIによる“汚染”とはどのようなもので、どこまで進んでいるのか？ 桜美林大学の平和博教授は「これまでネットにもフェイクニュースなど、人間が作成した“ゴミ”と呼べるようなコンテンツがあったが、現在は生成AIが高度で大量のゴミを自動生成して吐き出している。例えば、アメリカの調査では既にネット広告の20％は生成AIが関与したゴミサイトに掲載されており、さらには日本やヨーロッパでも偽のニュースサイトなどによる世論操作まで行われている」と驚きの事実を語った。
現に、日本語を含む40を超す言語をカバーしたオープンソースの研究用データベース「ワードフリーク」が「生成AIによるデータ汚染」を理由に更新を停止した。
平教授は「信頼できる情報を発信してきたメディアのビジネスモデルが崩壊している。アメリカでは『2週間に5つの新聞社が消滅』という驚きのペースで消えている。AIにはヒットするコンテンツを増幅させるような、いわゆる“ロングテール”の部分を切って頭の部分だけを肥大化させる傾向があり、そのデータを学習することで、生成AI自体が崩壊してしまうという問題点もある」と警鐘を鳴らした。
では、生成AIによる“汚染”が進んだ中、“浄化”あるいは“回避”する方法はあるのか？
第一生命経済研究所主席研究員でAIやテクノロジーを専門に研究している柏村祐氏は「ITジャイアントなどがお金をかけて運用している生成AIモデルを使うこと」「AIリテラシーを高めて汚染された情報に翻弄されないこと」が大事だと強調した。
平教授はこれに対し、「AIが学習するデータの『質』が大事であり、『ゴミを飲み込めば出てくるのはゴミ』になってしまう。高品質データ確保にリソースを割ける大企業しか、AI開発ができなくなるという問題点もある」と指摘し、AIリテラシーについても「『そもそもAIには何ができて何ができないのか』『AIのリスクとは何か』という基本的なポイントをしっかり踏まえた上で使いこなしていくことが重要だ」と述べた。
さらに、「法制度で枠組みを作っていく取り組みも必要になってくる。今年の5月、EUではAIの本格的な規制法が成立、アメリカでもAIを使って商品のコメント欄への偽の書き込みを禁止する規則を導入している」と説明した。
（『ABEMAヒルズ』より）
■Pick Up
・「ABEMA NEWSチャンネル」がアジアで評価された理由
・ネットニュース界で話題「ABEMA NEWSチャンネル」番組制作の裏側
本記事は自動文字起こしツールや生成AIを利用していますが、編集部の確認を経て公開しています。
