ChatGPTを使い始めたとき、同じチャットをずっと使い続けていました。
自分のことを覚えてくれている感じがして、やり取りを重ねるほど「相棒」みたいな感覚になってきて。
でもそれ、実は精度を下げる一番の原因だったんです。
AIは「全部覚えている」わけじゃなかった
使い始めた頃、こんな勘違いをしていました。
「同じチャットを続ければ、AIは会話の全部をちゃんと覚えていてくれる」と。
でも実際の仕組みはちょっと違います。
AIには「コンテキストウィンドウ」と呼ばれる、一度に処理できる情報量の上限があります。
ざっくり言うと、AIが同時に見られる範囲には限りがあるということです。
会話が長くなると、古いやり取りはその範囲からどんどん押し出されていきます。
要約されたり、最悪の場合は完全に参照できなくなったりします。
「全部覚えてくれている相棒」ではなく、「直近のことしか見えていない人」に近い状態になっていくわけです。
長話をするほど、AIはバカになる
これは体感でもはっきりわかります。
最初の数回のやり取りは精度が高くて「さすがだな」と思えるのに、同じチャットで話し込んでいくうちに、だんだん的外れな回答が増えてくる。
技術的にも、コンテキストが長くなるほどAIは重要な情報に集中しにくくなることがわかっています。
情報量が増えすぎると、どこに注目すればいいかが散漫になるイメージです。
「最近AIの精度が落ちてきた気がする…」と感じたことがある方は、長すぎるチャットが原因かもしれません。
タスクが変わったら、チャットも変える
この仕組みを知ってから、自分のルールを変えました。
新しいタスクを始めるときは、必ず新しいチャットを開く。
Aの仕事をしながら途中でBの相談をしたくなっても、同じチャットでは続けません。
タスクごとにチャットを分けることで、AIが見るべき情報がクリアな状態でスタートできます。
もう一つ、これも試してほしいのが「プロンプトを変えて別チャットで再挑戦する」という方法です。
思ったような回答が得られなかったとき、同じチャットで粘っても精度は上がりません。
別のプロンプトで新しいチャットを作ると、まったく違う結果が出ることがあります。
これを繰り返すと、どんな書き方をするとどんな回答が返ってくるかのパターンが自然と見えてきます。
最初のプロンプトに全力を注ぐ理由
チャットを始めた直後が、AIの精度が一番高い瞬間です。
コンテキストがクリーンで、余計な情報が一切ない状態。
この瞬間に、どれだけ的確な指示を渡せるかで、その後の回答の質がほぼ決まります。
だから、最初のプロンプトには全力を注ぐようにしています。
・何をしてほしいのか
・どんな形式で出してほしいのか
・前提として知っておいてほしいことは何か
これらを抜け漏れなく、誤解が生まれないように書く。
スマートに書こうとするより、「これでもか」というくらい情報を詰めたほうが、結果的に良い回答が返ってきます。
まとめ：相棒感より、精度をとる
同じチャットを育てていく感覚は、正直なところ心地よかったです。
でも、それはAIへの誤解から来ていた「思い込みの相棒感」でした。
AIは長話をするほどバカになる。
新しいタスクには新しいチャット。
最初のプロンプトに命を懸ける。
この3つを意識するだけで、AIとのやり取りの質がかなり変わります。
ぜひ試してみてください。