■専門家「生成AIは超優秀な知ったかぶり」
生成AIは「教師データ」あるいは「学習データ」を学習することで、その精度を高めていく。クロサカ氏によれば、Grokがどのデータを学んでいるか公開されていないものの、少なくともX上で大量に投稿されているものを学習していることは間違いないという。つまりGrokは、Xの投稿の中で「ファクト」とされたものを、問いに対して答えている部分がある。クロサカ氏は「生成AIは森羅万象とか、物理法則を理解して説明しているわけではない。いわば『超優秀な知ったかぶり』だと考えてほしい」と表現した。
「大量に右から聞いた話を、大量に左に流している。この流し方がものすごくかっこよく、正確に言ってくれることがあるので『おっ、すごい！』と思われる。ただし、たまにとんでもない、何もわかっていないようなことも返してくる。これが生成AIというものだと、我々が理解できるかというと、理解ができない。知ったかぶりの人にも、自然に言われてしまうと『この人はもしかするとすごく勉強してきた頭のいい人かもしれない』と思うのと同じ。生成AIもそれと同じで、Grokにも偏りがあるかもしれないと考えるべき」。
■生成AIの安全対策に課題？
