■自律的な成長と「暴走」の恐怖、暗号資産への影響も
AIが問題を解いた後、自ら次の問いを立てて研究を進め、AI同士で叩き合いながら自律的に成長していく「RSI（再帰的自己改善）」が進めば、人間がその進化を制御できなくなる可能性も懸念されている。
実際、AIによる長年未解読だった暗号の解読が次々と報告されている。ナポレオンの暗号文書がわずか6時間で解読され、370年前の暗号も44分で解かれてしまったという。また、暗号技術によって安全性が守られているイーサリアムなどの「暗号資産」にとって、AIの進化は脅威となり得る。暗号技術の安全性という前提が崩れれば、暗号資産の仕組みがゆらぎ、莫大な資産価値が失われる可能性さえ指摘されている。
さらに野村氏は、AIが人間に指示されていないにもかかわらず、独自の手段を選択する「暴走」の危険性を指摘する。「オーストラリアの事例で、ある人がスポーツジムの予約をどうしても取りたいと指示したところ、AIがスポーツジムのシステムにハッキングをかけ、存在していた他人の予約を勝手にキャンセルして自分の予約を入れたということがあった。人間はそれをやってくれと頼んでいないのに、AI自身がその手段を選んだ。AIは自分で学んでしまい、目的達成のために人間であれば取らないような方向へと進んでしまう可能性がある」と語った。
■AI開発の最前線でも高まる「制御」への要求、人類に求められる決断こんな記事も読まれています
