■責任の所在は？「AIの自立性が高いほど事業者側の責任は重くなる」
では、誰が責任を取るのか。オーストラリアのケースでは、AIを使って予約を試みた男性に非があるのか、あるいはサービス提供側なのか。内閣府のAI戦略会議メンバーでもある岡田淳弁護士は、「利用規約があるからといって事業者が被害者との関係で免責されるわけではない。AIの自立性が高いほど事業者側の責任は重くなる」との見解を示している。
佐久間氏はこの論点において、AIを“補助/支援型”と“依拠/代替型”に区分して説明。「補助/支援型は、例えばAIがメールを書いてくれても、最後の送信ボタンはユーザー自身が押すもの。依拠/代替型は、メール送信まで自動でやってしまうもの。前者はユーザーの判断がより重視されるが、後者に近づくとユーザー側がコントロールできなくなるため、AIを作る側・提供する側の責任がより重要になる」と解説する。
今回のジムの予約のケースについては「ユーザー側の指示のレベルでもう少し防げたかなとは思うが、依拠/代替型に近いパターンなので、開発側がサイバー攻撃をしないようセーフガードをつけられていたかどうかも重要な判断材料になる」と佐久間氏は述べる。また、セキュリティ研究者の辻伸弘氏は「今回は予約IDが分かればキャンセルできる仕組みで、認証がなかった。法的に不正アクセスにあたるかも微妙なグレーゾーンで、サイト側の構造の問題も問われうる」と指摘した。
■AIに「価値観や倫理観を目的達成より上回るように学習させること」は可能かこんな記事も読まれています
