世界基準の安全規制がないことや、運用にあたっての倫理観など、AIをめぐる様々な問題について、開発企業の共同創業者に話を聞きました。AIが導く未来に大きなリスクはないのでしょうか。
AI産業は“ブレーキのない車”
医療から最先端の科学研究まで。人類の知の限界に挑む、アメリカの有力AI企業『アンソロピック』。
アンソロピック共同創業者 ジャック・クラーク氏
「世界の安全なAI開発において、この数年間は重大な時期とみています」
日本法人設立1周年を記念して共同創業者、ジャック・クラーク氏が来日しました。AIの安全性や社会への影響を研究する部門のトップです。アンソロピックは常々、AIの危険性を指摘してきました。14日のインタビューでも早々に…。
アンソロピック共同創業者 ジャック・クラーク氏
「AI業界はアクセルしかなく“ブレーキがない車”のようなもの。そんな車を造るのは愚かです。幼い子どもに買うおもちゃよりも、AIは規制が緩くて、これほど強力なAIなのに奇妙なことです。おもちゃと同程度の規制か、それ以上のものが必要なのです」
AIを開発する側が規制を主張する。どういうことなのでしょうか。
アンソロピック共同創業者 ジャック・クラーク氏
（Q.御社は“人類に壊滅的な危険”と警告しながら開発を続けています。この進歩が続いた場合、短期的・長期的にあり得るリスクは）
「私たちにとって最大のリスクは、AIの進歩を真剣に受け止めないこと。軽く見れば、その能力に驚くばかりで対策が間に合いません」
AIの危険性“サイコロのよう”
言葉を選びながら指摘したのは、人間によるAIの悪用でした。
アンソロピック共同創業者 ジャック・クラーク氏
「AIによってソフトウェアの欠陥を見つけやすくなり、防御側は欠陥を修正できますが、ハッカーは悪用できます。AIは防御力を高めますが、犯罪者に機会を与えもするのです」
相次ぐ不正アクセスでもアンソロピックのAIが使われた事例がありました。14日の記者会見では“生物・化学兵器”のリスクにも言及しています。
アンソロピック共同創業者 ジャック・クラーク氏
「今後の将来リスク、例えば生物兵器のようなものを含む」
アンソロピック共同創業者 ジャック・クラーク氏
（Q.最悪のシナリオが現実となる確率はどれくらい）
「普通の技術として扱えば“サイコロを振っている”ようで、リスク情報や大惨事の確率がそこに含まれています」
米中を中心に今、AIの開発競争が激しさを増しています。だからこそ、安全対策を急ぐ必要があるとクラーク氏は考えています。
アンソロピック共同創業者 ジャック・クラーク氏
「“システムをどこまで制御できるか”が長期的な問題です。制御は不可欠です。AIシステムの知能向上をより慎重に考える時期が来れば、向上のペースを落とすことになるかも。そうすれば防御策も政策の枠組みも整えられます。まだチャンスはあります。恐らく今後3年間が判断を下す重要な期限になるでしょう」
AIが導く未来図は
蒸気機関、電力、そしてコンピューター。それらに続く第4の産業革命、その中心にあるのがAIです。変えるのは、私たちの未来そのもの。
アンソロピック共同創業者 ジャック・クラーク氏
（Q.『AI』は生活にどんな変化を）
「希少疾患に限らず、医療全般の改善に役立ちます。翻訳・法律・経済などにも非常に有用です。裕福な人しか利用できなかった、高度な助言や知識を誰もが使える。すでに素晴らしい変化が起きています。生物学の分野では、数年で大きな変革が訪れると思います。現時点でもソフトウェア開発や数学、科学分野を変革しつつあります」
