■人間では止められない…AIがAIを止める時代に
今後、重要とされるのは高性能であるAIに対し、どこまでの権限を与えるかだ。今井氏も「たとえば政府のAIに、非常に複雑な作業をやってもらったとしても、渡す権限によってはまずいことになる。だからこれは人間がすごく気をつけなくてはいけないし、触れないところをしっかり決めないといけない」と注意喚起する。今井氏はAI研究に「神」と呼ばれる3人の人物がいるとし、ヤン・ルカン氏、ジェフリー・ヒントン氏、ヨシュア・ベンジオ氏の名を挙げたが「3人のうち2人はもうずっと『AIは危険だ』という活動をしている。東大の研究室でも『こういうまずいことがある。止めないといけない』という議論をずっとしていた。研究としては今、一番の優先事項だ」と、危険性の周知に努めていると紹介した。
ただし、人間側が意図的に悪意を持ってAIを活用するケースも想像される。環境副大臣で元デジタル副大臣の自民党・小林史明衆議院議員は「野心的な国家や犯罪者が非常に高度なAIを動かすようになった場合、どうすればいいのか」と不安視すると、近畿大学情報学研究所所長・夏野剛氏は「犯罪集団にとってものすごく強力なツールが出てきている。これをもう抑えるためには、より強いAIを使って、より強く監視していくしかない。我々はもう戻れないところまで来てしまっている」と、AIを止めるためのAIを開発していく必要があると訴えた。
今井氏も、人間がAIを制御することの限界に触れた。「人間がAIを制御するには無理がある。AIの知能が高くなりすぎると、人間にはもう理解ができない。だからAIにAIが干渉するという研究分野が出てきた。ただしAIもいずれ頭打ちにはなる。その段階まではいたちごっこになるかもしれないが、後追いだったとしても対策を続けていくしかない」。
（『ABEMA Prime』より）
