#601 AIの間違いをどう捉えるか / 人間も間違う

594の続き。人間は平気で間違いを犯すし、AIだって同じように間違うことがある。特に、大規模言語モデルを使った今のAIは、いわば文章や回答を統計的な仕組みで生成しているから、どうしても「変な答え」を出しちゃう確率はゼロにはならない。もちろん、技術の進歩によってはこの先どう変わるかはわからないけど、現状の仕組みからすると誤りを完全になくすのはなかなか難しいんじゃないかと思う。

そもそも、どこからどこまでが「間違い」なのかってのもけっこう曖昧で、「認識って何だよ」みたいな大きな話にもつながる。いずれにしても、人間だろうとAIだろうと結果として間違うことがある、という点だけは共通してるわけだ。

で、大規模言語モデル型のAIが出始めた頃は、簡単な算数――たとえば「1+1」みたいなものですら、間違った答えを出すっていう場面がちょこちょこあった。まあ、1+1=2自体を間違えることはそんなに多くなかったにしても、「テキストを生成する仕組み上、実際に計算しているわけじゃないから、こういうことも起こるんだよね」って感じだった。

でも今では、ChatGPTみたいなAIがプログラミングコードを生成したり、そこそこの計算をこなしたりするようになって、以前ほど簡単な算数でつまずくケースは見なくなった。とはいえ、どうしても統計的に文章を生成している以上、完全に間違いがなくなるわけじゃない。ただ、プログラミングを書いてみたり、実用的な使い方をしたりする分には、もう十分に活躍の場があるっていう感じだ。

もっとも、これはあくまで「今の仕組み」だから成り立つ話で、将来どこまで誤りが減るのかは正直わからない。…っていうか、そもそも何の話をしてたんだっけ。

まとめると、AIは今のところ、人間と同じように間違いをゼロにはできない。でも、昔（といってもここ数年）に比べれば格段に賢くなってるし、プログラミングや計算の手伝いなんかでも十分役に立つ段階に来ている。将来、もっと技術が進めば間違いはさらに減っていくかもしれないけど、それはまだ誰にもはっきりとはわからない。とにかく、うまく使えば便利な存在だけど、過剰に期待しすぎるのも、逆に何でもかんでも疑いすぎるのも、どちらもバランスを欠くんじゃないかってところだろう。