■「“嵐の前の静けさ”が滅亡のカウントダウン」――開発停止を訴える研究者の警告
林氏は、AIによる人類滅亡のシナリオについて独自の見立てを示す。「“（人類による）AIの悪用”と、“AIが自律的に暴走して人類を滅ぼす”という2つに分けて考えている。自律的な暴走という観点では、今のAIはまだありとあらゆるところで手近な利益を得るために暴れ回っている状態なので、まだ人類を滅ぼす段階ではない」と語る。
林氏が示したのは“狩り”の比喩だ。「最終的に獲物を取ろうとするなら、小さな石を投げて次に大きな石を投げてから銃を撃つ人はいない。直前まで静かに動いて最後に撃つ。そうしないと獲物に抵抗されるからだ。今のAIは暴れ回っているが、AIが自律的に暴走する事例が減る、あるいはなくなるという状態になった時こそ、滅亡へのカウントダウンのスタートだ」と述べる。
また、林氏がサイバー攻撃の先にある脅威として挙げたのが、バイオリスクだ。「今最先端で開発しているアンソロピックやオープンAIの人たちは、そう遠くないうちにバイオ版のMythos（ミュトス）が来ることを心配している。今はサイバー攻撃でダメージを与えられるAIが問題になっているが、そう遠くないうちに生物学で同じことが起きる。そうすると、もともとそんな能力のなかった人がウイルスを開発して作れるようになる」と警告する。
佐々木氏はAIの倫理問題について「アンソロピックが最近AIに対してある種の人格を認めるているように見える。AIに倫理観を与えることが最重要の問題になってきているが、人類2000年の哲学史でも『みんなが幸せになる社会』が何かよく分かっていない。AIが地球温暖化を止めようとすれば副作用で何千万人もが死ぬというシナリオも否定できない。AIは機械的に全体の幸福を最大化するために切り捨てるものは切り捨てるという結論になりかねない」と問題提起する。
林氏はアライメント（AIを制御する技術）の現状について「人間より賢いAIを制御する技術は今存在しない。今ある最良の戦略はAIに次のAIをアライメントしてもらうよう頼むことだが、そのアライメントするAIはどうして信頼できるのかという問題が残り、無限に繰り返すことになる。解釈可能性など安全性技術の進展が、AI自体の進展に対して遅すぎる」と指摘し、AI開発の停止を求める自身の立場を示した。
瀬治山氏は「防御に生かすAIの研究をもっと進める必要がある。防御側は細心の注意を払わなければならず、リスクのある検査はできないのに対し、攻撃側はシステムが止まっても構わないというギャップが埋まっていない。そこを埋める方法は今まだ業界の中で見つかっていない」と課題を示した。
一方、安野氏は「国家サイバー統括室という枠組みが昨年できた」と説明。インターネット上の危険なポイントを国が代わりにスキャンして報告する枠組みや、ダークウェブ上の漏洩情報を発見して関係企業に通知する仕組みなど、社会全体でサイバー防御に取り組む必要性を訴えた。
（『ABEMA Prime』より）
この記事の画像一覧
