■「止まれば負ける」開発競争のジレンマと国家間の思惑
破滅的なリスクが指摘されながらも、国家間の思惑が絡む中で開発を減速させることは可能なのか。東京大学大学院准教授の斎藤幸平氏は、「核戦争になれば人類は滅亡すると言われたがそうはなっていない。AIの開発も似ていて、こんなに危険なものを作るのだから抑えるためにはお金が必要だと、無限のストーリーを描き続けなければいけないという、ある種のビジネスではないかと感じる」と疑問を呈した。
経済学者・竹中平蔵氏も、「核不拡散と同じようにスピードを制限する仕組みを作っていかなければならないが、先に持っているところが圧倒的に有利なので、枠組みができるまでに自分たちはできるだけ最先端に行っておこうというインセンティブが働いてくると思う」と分析した。
最悪のシナリオを回避するための具体的な解決策として、林氏は「社会を回している既存のAIはそのまま使い続けながら、人間より断然賢くて目的を持ってしまう『超知能』の開発をピンポイントで止めるべきだ」と主張する。
開発を秘密裏に進める国家や企業が現れる懸念については、「最新のAIモデルの訓練に使われたデータセンターは、東京ドーム93個分という大きい面積で、広島市と同じくらいの電力を使う。これを作るためには半導体を何千億円分も集めなければならない。秘密裏に行うのはものすごく難しく、新しいAIモデルを開発するには数カ月動かし続けないといけないため、衛星監視や排熱監視で気づくことができる。アメリカと中国が合意さえできれば、相手が守っているかは見て分かる」と国際的な監視の可能性を示した。
その上で、日本の果たすべき役割について、「AIの危険性を測定し、世界に警告する役目を果たすことができる。イギリスの機関が絶滅のリスクを真剣に取り扱い、新しいモデルが出るたびにレポートを出して重要な役割を果たしている。日本でもこれができる。そして、国際条約ができたらそれに従うと宣言することだ」と提言した。
（『ABEMA Prime』より）
