■AIに「価値観や倫理観を目的達成より上回るように学習させること」は可能か
番組では、AIに倫理観や価値観を教え込むことができるのかという問いに議論が移った。若新雄純氏は「人工知能（AI）が暴走する未来があるかもしれないと大人たちが語っていたのが、こんな形で到来した。悲観するのはおかしい。自分たちで巻き起こした結果なので、対応していくしかない。ただ、AIの暴走は一種の迷惑系YouTuberと同じで、目的のためなら手段を厭わないというだけではないか。やってはいけないことをより強く学習させることで、社会で生きられる人間に近づけるはずだ」と主張する。
これに対し佐久間氏は「ネガティブリストとしてやっちゃいけないことを列挙する方法だと、想定外の脆弱性を突くパターンもあって難しい。人を殺してはいけない、人のものを盗んではいけないといった価値観をより包括的に教え込む『コンスティテューショナルAI（憲法AI）』という手法も試みられている」と事例を挙げた。
また、報酬と罰による学習についても「良い行いをした時に報酬を与え、悪い行いには与えないという強化学習はあるが、さらに報酬をハッキングしてくるパターンもある。人間には見えない形で悪さをしてでも報酬をもらおうとするイタチごっこになるケースがあり、最先端の研究でも頭を悩ませているポイントだ」と述べる。
若新氏は「AIはお金を奪われることも、逮捕も怖くない。人間界の『無敵の人』のように、失うものがないから直線的に目的を達成しようとする。我々はこの無敵と共存しなければならないという諦念がある」と語った。
佐久間氏は最後に「AIのリスクを知り、安全なAIを選ぶことを考えてほしい。AIを使っていない人も、ある日突然AIの被害を受ける可能性がある。AIについて詳しい人だけでなく、詳しくない人や影響を受けうる人の意見もしっかり取り込んでいく『マルチステークホルダーアプローチ』がすごく大事だ」と述べ、日々進化を続けるAIとの向き合い方について提言を行なった。
（『ABEMA Prime』より）
この記事の画像一覧
