#780 古いモデルで動かしたい

最近よくわからないのだけれども、チャットGPTの出力する文章が少し前と変わっている。何が気になっているかというと、よく改行を挟むようになったというか、改行が増えたように思う。ちなみに今これは音声入力をしていて、「改行」という入力をすると実際に改行されてしまうので非常に面倒くさい。音声入力の限界を感じる。この文章では、これからそれのことを「それ」と呼ぶことにする。

とにかく、それがなぜか増えてしまった。どういうことかというと、前であれば一つの段落があって、その中にそれが入らない、というか連絡ごとに分かれているけれども、その中にはそれはないという状態だった。しかしなぜか最近は段落にも分かれているが、その中に、何なら一個の文章ごとにそれが入っている、つまり一文ごとにそれが入っているというような状態になっている。

これについては、「じゃあそれはプロンプトが悪いのではないか」というのは全くその通りなんだと思うし、プロンプトを改善すればなんとか変わるのだとは思っている。けれども問題は、これはGPTを作ってやっているので、全く同じプロンプトをずっと使っているということだ。全く同じプロンプトをずっと使っているにも関わらず、出力される結果がどんどん変わってきているということ。もちろん、それは技術的には理解ができる。単純にモデルが変わってきているからだ。プロンプトが同じだとしても、モデルが変われば挙動は変わる。それはわかっている。だからプロンプトの方を改善して合わせていくしかないのだけれども、しかしこれは、例えば業務システムであるとか、長期的に動くものを作ろうとすると、なかなか厄介な問題だ。

例えば、何らかのソフトウェアをインストールして使っていて、あるバージョンの挙動みたいなものが必要だったり、あるバージョンでファイルを開くことが必要だったりして、昔のバージョンを取っておいたりとか、最新のバージョンと昔のバージョン両方を入れている人であるとか、そういうことをやっている人はよくいる。それはやっぱり「新しければ良い」ということではない、というわけであって、そのようにモデルもバージョンを起こしていくというようなことを、おそらくやりたくなる瞬間がある。