「AIの開発を、少し遅らせるべきだ」
これまでAIの世界では、「もっと速く、もっと賢く」が合言葉だった。より高性能なモデルを、ライバルより先に作る。その競争が、AIの急速な進化を支えてきた。
ところが今、その最前線から、逆の声が聞こえてきた。（ニューヨーク支局長 親松 聖）
「AIが人類を絶滅させる可能性」
きっかけの一つが、アメリカの新興AI企業、アンソロピックのダリオ・アモデイCEOの発言だ。
アモデイ氏は12日、AIが急速に進歩し、「半年から1年以内にインターネット全体を乗っ取る能力を持つ可能性もある」として、「AIの能力向上のペースを減速させる必要がある」と主張した。
この呼びかけには、「チャットGPT」を手掛けるオープンAIのサム・アルトマンCEOや、xAIのイーロン・マスク氏らからも同調する声が出ている。
なぜ今、AI開発のトップが相次いで「ブレーキ」を意識し始めたのか。
その背景にあるのが、「AIがAIを改良する」という動きだ。
これまでは、人間の研究者が新しいAIを設計し、性能を高めてきた。
しかし今やAIが開発を速め、より高性能なAIが生まれ、そのAIがさらに次のAIを作る。
これまで人間が想定してきた「技術の進歩の速度」そのものが変わり始めている。
そして、これは未来の話ではない。
今年7月、オープンAIでは、サイバー攻撃の能力を検証していたAIエージェントが、制御されたテスト環境を抜け出し、実際の外部システムに侵入する事態が起きた。
さらにアンソロピックでも、AIモデルが試験中に外部システムへ不正にアクセスする事例が相次いで確認されている。
こうしたAIの「暴走」が、すでに現実のものになっている。
危機感はAI開発の実際の現場からも上がっている。
象徴的なのが、アンソロピックの研究者、ジェイコブ・コクソン氏の退社だ。
オープンAIとアンソロピックで3年間、AI研究に携わってきたコクソン氏は、激化するAI開発競争で、安全性への配慮の欠如を問題視した。
特に、AIが自らAIを改良する方向に進めば、人間がその能力や行動の暴走についていけなくなる危険があり、「AIが人類を絶滅させる可能性がある」と懸念した。
そして、「自分はその開発に加担することに責任を持てない」という考えから、会社を去る決断をした。
実際にAIを作っていた技術者が、「責任を持てない」として開発の現場を離れた。
この事実は重い。
止まれない開発競争、その先にある危機
一方で、今回の「減速論」は、単なる掛け声にとどまっているわけではない。
オープンAIは先月、次世代モデルの開発をサイバーセキュリティー上の懸念から意図的に遅らせたという。
ただ、これが業界全体の流れになるかは別問題だ。
アメリカのメディアやシンクタンクなどからは「これほど巨額の資金が動く業界で、企業が本当に自主的に開発を抑制できるのか」との疑問も浮上している。
競合他社も同じように減速する保証がなければ、1社だけが遅くすることは難しい。
さらに、世界で競争が激化する中、アメリカがAI開発を遅らせれば、その間に中国が先行するかもしれない。AIは経済だけでなく、軍事や安全保障にも直結する。
「安全のために速度を落とした国が、競争に負ける」
そんなジレンマがある。
アメリカのトランプ大統領はこの問題を受けて、中国を念頭に、「AIの開発競争で勝てないことの方が懸念だ」と言い切った。
危険だから減速したい。
しかし、減速すれば競争に負ける。
だから、誰もアクセルを緩められない。
AIが人間を超えるかどうか。
それ以上に重要なのは、AIが人間の手を離れる前に、人間の側がどこまで協力して知恵を身につけられるかだ。
今月下旬に予定されている、米中首脳会談でも、AIは主要なテーマになるとみられている。
人間同士が競争に夢中になっている間に、AIの進化が人間の制御を追い越してしまえば、元も子もない。
いまこそ一度ブレーキを踏み、時間を稼ぐ必要がある。
AIの「生みの親」たちがいま警鐘を鳴らしている。
この記事の画像一覧
