モデルメモリの壁 1/4: AIをうまく使えるようになった瞬間、プロジェクトは止まる
モデルと働く人たちの五つの段階、そして誰もがぶつかる壁（第1回）
---
初めてモデルに触れた人の第一印象は、たいてい 幻滅 だ。
万能を期待していたからだ。何でも答えてくれると信じて近づいたのに、まだうまく使えない状態で間違った答えが返ってくる。なぜ間違ったのか理解できないので、結論は一つに収束する。「AIは嘘をつく」。多くの人はここで離れていく。第1段階の離脱者たちだ。
この区間を耐えた人は、やがて使い方を覚え始める。すると 面白さ の区間が来る。何でも聞き始める。少しずつ難しい問題を任せてみて、驚くような方法や圧倒的な効率で解かれていくのを目撃する。その経験が積み重なると、自然に次の段階へ進む。
万能主義 だ。モデルがうまくできないのは、自分の頼み方が悪いからだ。この段階の中心にある感情である。責任をモデルではなく自分に向け始める。実はこれは大きな前進だ。プロンプトを磨く力になるからだ。そして本当にうまく頼めるようになると、次の扉が開く。
盲信 である。プロンプトにも慣れ、モデルがときどき混ぜる嘘も「そういうこともある」と見分けて流せるようになる。道具を手なずけたという自信。まさにこの段階で、多くの人がチャットボットを越えて エージェント に進む。
エージェントの入口でもう一度分かれる。最初の複雑さにうんざりしてチャットボットへ戻る人がいる。一部の機能だけを使ってそこに留まる人もいる。そうではない少数の人だけが、エージェントの本当の用途と機能を発見し、ようやく 本当のモデルユーザー の道に入る。
ここまで生き残った人は強い。もっともらしい進行、大きな全体像、完全に見える検証ルーチン。何でもできそうな気分になる。そうしてプロジェクトが始まる。
ところが、プロジェクトが勢いに乗り、本格的にアクセルを踏むべき地点に来ると、奇妙なことが起きる。
同じ場所を回り始める。
エージェントもモデルも一生懸命に働く。だが進捗がない。進めと強く言えば進む。けれど不安が残る。前へ進むべきなのに、どこかでずっと同じ場所に戻ってくる。
盲信の段階を経て本当のユーザーになった自信が、まさにこの地点で請求書として返ってくる。そしてこれは、あなたの能力が低いからではない。プロンプトをさらに上手に書けば解ける問題でもない。これは 構造の問題 だ。モデルには文脈（context）を保持する場所がなく、記憶（memory）を蓄積する場所も十分にない。
この回り続ける現象には名前がある。そしてこれは個人のスキルの問題ではなく、いま私たちがモデルを使う方法全体に引かれたガラスの天井である。
その名前は何か。なぜプロンプトでは決して突破できないのか。そして、どんな構造的な解決策がすでに存在しているのか。次回で話す。
目次予告
- AIをうまく使えるようになった瞬間、プロジェクトは止まる
- あなたの賢い助手にない、ただ一つのもの
- 何を残し、何を捨てるのか
- 記憶の標準: メモリレイヤーの標準化が必要な理由