日本でも進む防衛システムへのAI導入 企業暴走の懸念と人間の役割「AIは死ねないから未来の責任が取れない。人間は死ねるからペナルティを受ける特権がある」

■巨大テック企業が国家を超える懸念と、AI活用に伴う「人間の責任」

　米国の防衛テック企業の参入に対し、出演者からは様々な視点から懸念が示された。

　文筆家・佐々木俊尚氏は、「アメリカという国を超えた、テック企業の強大化が懸念される。ウクライナ侵攻でスターリンクが重要な通信手段になった際、イーロン・マスク氏の意向で一瞬止めた事例がある。巨大化していくと、企業の意向によって日本の戦争遂行が左右される事態が起きうるのではないか」と疑問を投げかけた。

　EXITの兼近大樹氏も、「企業が中立であることはできるのか。力を持ちたい企業が増え、日本の企業に技術を提供したとして、どう暴走するかわからない。企業が力を持って、国同士の争いに介入してくることを考えたら怖い」と不安を口にした。

　これに対し、防衛研究所上席研究官の高橋杉雄氏は、「軍事力というのは政治の道具だという原則は変わらない。軍事力を使う上でのOSのような企業が、逆に政治を支配することは起こらないのではないか」と見方を示した。さらに、「イノベーションの速さにより、ある特定の企業が全体を支配することは阻まれる可能性がある。ウクライナでは、国に頼らず企業がスポンサーになって無人機部隊を作り戦っている」と実例を挙げた。

　佐々木氏もこれに同調し、「AIが全てを支配するのではなく、ウクライナが国としてプラットフォームを作り、様々なAIや兵器を一括して管理する『AIオーケストレーター』になっている。イメージが変わってきている」と補足した。

　最終的な意思決定における人間の役割について、PK Shampoo・ヤマトパンクスは、「AIから『こうするべきだ』というデータが出てくる中で、重大な間違いにつながった時の責任を取るためのスケープゴートとして、政治家が必要とされていくのではないか」と問題提起した。

　衆議院議員の大空幸星氏は、「AIが高度化すればするほど、提示される情報を疑うことは難しくなる。自分の感覚値や信念をどれだけ持てるかが重要だ。日本の自衛隊は米国の防衛産業に携わる人たちと比べて感覚が違うため、米国に学生を送り、近い感覚を持つ人を育てる発想で動いている」と明かした。

　高橋氏は、専門家の見解を引用し、「AIはデジタル的にコピーができ死なないため、未来に対する責任は一切取れない。人間は死ぬことができるため、ペナルティを受ける特権があるという意味での責任を取っていく」と指摘した。