チャットAI、“会話の区切り方”だけで急に賢くなる
――いつもの喫煙所。カズが煙を吐きながら、遠い目をしている。
なあ。AIって、使ってるうちにバカになったりする?
藪から棒に失礼なやつだな。何があった
最初はキレッキレだったんだよ、うちのAI。なのに最近、返事がどんどん変になってきてさ。今日なんか、企画書の相談をしてたのに、なぜか先週の経費精算の話を混ぜ込んできた
なるほどな。カズ、ひとつ聞くが——その会話、いつから同じ画面で続けてる?
え? 使い始めた日からずっとだけど。履歴が残ってた方が便利だろ
原因が確定した。AIがバカになったんじゃない。カズが会話を区切ってないだけだ
区切る? 何を?
仕組みから話すぞ。チャットAIは返事をするとき、その会話画面にあるやりとりを、毎回ぜんぶ読み直してから書いてるんだ。ひとつ前の質問だけじゃない。最初の挨拶から、途中の経費の愚痴まで。机の上に広げた書類を全部見渡してから、次の一枚を書くイメージだな
毎回ぜんぶ!? 記憶してるんじゃなくて、毎回読み直してるのか
そうだ。だから話が通じるんだよ。前提を踏まえて続きができる。——ただし、これは呪いにもなる。経費の書類が机に載ったまま企画書の相談をすれば、経費の匂いがついた答えが返ってくる。カズのAIの返事が変になったのは、机の上に3ヶ月分の書類が積んであるからだ
心当たりしかねえ……。あ、でも待てよ。それ、むしろ賢くなる方向じゃないのか? 材料が多いほど、いい答えが出そうなもんだろ
そう思うだろ? ところが実験だと真逆でな。机が散らかるほど、俺たちは雑になる
💡 アキの補足：「長い会話ほど賢くなる」は、実験だと真逆だった 「2023年にスタンフォード大などの研究チームが見つけた有名な現象がある。AIに長い資料を読ませると、冒頭と末尾の情報はよく拾うのに、真ん中に置かれた情報をゴソッと取りこぼすんだ。グラフにするときれいなU字になる。『Lost in the Middle（真ん中で迷子）』って名前までついてる」 「さらに2025年には、GPT・Claude・Geminiを含む18モデルを調べた研究（Context Rot＝文脈の腐敗）が出てな。入力が長くなるほど、18モデル全部で性能が落ちていった。単純な作業でもだ。しかも落ち始めるのは、容量の限界よりずっと手前から。——机が広い最新型でも、散らかった机は苦手なんだよ」
真ん中で迷子って……じゃあ、俺の3ヶ月スレッドの真ん中へんで決めた大事な方針は
書類の山の下だな。ほぼ埋まってる
どうすりゃいいんだよ。毎回新しい会話にしたら、一から説明し直しだろ? それはそれで面倒なんだが
運用はひとつ覚えでいい。1スレッド1テーマだ。会議と同じだよ。経費の会議で企画の話を始めるやつはいないだろ。……いや、うちの会社にはいるか
いるなあ。で、どっちの結論も出ずに終わるんだよな
あれがAIの中でも起きてるわけだ。だから話題が変わったら、新しい会話。たったこれだけで返事の質が一段変わる
長く話してて、途中から変になってきたときは?
引っ越しだな。いまの会話に『ここまでの要点を箇条書きでまとめてくれ』って頼む。出てきたまとめを新しい会話の最初に貼って、続きはそっちでやる。散らかった机を片付けるんじゃなくて、要る書類だけ持って新しい机に移るんだ
その手があるのか。古いスレッドはどうすんの、消すの?
放置でいい。読み直されなければ、ただの過去ログだ。悪さはしない
なるほどな。……でもさ、新しい机に移るたびに、自分の部署とか仕事の前提をいちいち説明し直すのは、やっぱり面倒じゃないか?
いいところを突くな。実はそれを一発で解決する道具があるんだが——話が長くなるから、また今度だ
出た、自分で次回予告。お前の話は区切るんじゃねえよ
1スレ1テーマだぞ。手本を見せてるんだ
はいはい。……じゃあ最後にひとつ聞くけどさ。お前との会話はどうなんだよ。俺、お前には入社してから何年分も垂れ流してるけど、区切らなくていいのか
安心しろ。カズの発言は、俺の中では今も全部1スレッドだ
こわいこわいこわい。それこそ散らかり放題だろ
いや? カズの場合、大事な情報がほとんど無いから、迷子になりようがない
おい
おかげで俺の机はいつも綺麗だ。感謝してるぞ
そういや、お前の強制リセットボタンって、背中にあるんだっけ
…………
教わった通りだよ。長くなった会話は、一回リセットだろ?
📝 今日のまとめ
- チャットAIは「記憶」ではなく、毎回その会話全体を読み直して返事している。だから前の話題の匂いが混ざる。
- 会話が長くなるほど質は落ちる：真ん中の情報を取りこぼす（Lost in the Middle）＋長いほど全体が雑になる（Context Rot・18モデルで確認）。
- 基本は1スレッド1テーマ。話題が変わったら新しい会話へ。会議のアジェンダと同じ。
- 長引いて変になったら引っ越し：「ここまでの要点をまとめて」→ まとめを新しい会話に貼って続行。古いスレッドは放置でいい。