■「サイバーセキュリティで一線を超えた」利用停止の背景
AI研究者の今井翔太氏は、ミュトスの危険性についてこう説明する。「もともとミュトスはサイバーセキュリティの脆弱性特定能力がものすごく高いので、世界中の人が使えたら危ないということで、一部の企業だけが使えるプロジェクトで非公開だった。その脆弱性特定能力を抑えた上で公開されたのが先週のフェーブルだった」。
しかし、その安全策が破られたという。「Amazonの研究者がいろいろ試してみると、こうすれば安全策を解除できると分かった。それがAmazonのCEOに伝わり、CEOからホワイトハウスに伝わった結果、何かがやばいということになって今すぐ停止、既存の輸出規制を使って外国人には触れさせるなということになった。アンソロピック社内ではユーザーが外国人かどうかを判断する術がないので一括全部停止、さらにアンソロピックの内部職員も使えない状況になった」。
今井氏はAIの最先端研究論文を踏まえてこう続ける。「もともと人工知能の最先端論文を見ると、一番最初に書いてあるのはリスクのことだ。サイバーセキュリティ、バイオセキュリティ、生物兵器、化学兵器、核兵器といったものに悪用できないかをずっと評価してきた。今までの論文だと一線を超えていないとされてきたが、まずサイバーセキュリティというところでミュトスが一線を超えた」。
■「次は生物学兵器」連鎖するリスク
