AIは何を覚え、何を忘れるべきか?
AIは何を覚え、何を忘れるべきか?
昨日、AIに「今回はまず下書きとして保存して」と伝えた。今日は公開するよう明確に求めたのに、AIはまだ公開できないと言い張る。
もう一つ、もっと気づきにくいケースもある。ある案について「試してみてもいい」と言っただけなのに、数日後にはそれを長期的な既定ルールとして扱い、作業を進めてしまう。
この二つの仮定のシナリオは、単に「記憶力が悪い」という話ではない。情報は完全に保存されているかもしれない。問題は、一時的な要求、長期的な好み、すでに古くなった決定を区別できていないことにある。
前回のコンテキストに関する記事では、今回AIにどの情報を渡すかを考えた。長期記憶では、もう一つの問いにも答える必要がある。どの情報を次回に持ち越す価値があり、いつ適用されなくなるのか。
チャット履歴、プロジェクト資料、長期的な好みを一緒にする必要はない
LangGraphのドキュメントは、会話内で使う短期記憶と、会話をまたぐ長期記憶を分けている。前者は現在の対話とタスクの状態を維持し、後者はカスタムの名前空間ごとにユーザーやアプリケーションの情報を保存できる。[1]
これは一つのフレームワークにおける設計方法であり、すべてのAI製品が同じように実装しているわけではない。ただ、この区別は自分の作業を整理するうえで役に立つ。
たとえば、記事を書くときのレイアウトの好みは長期的に残せる。ある記事の資料の出典はプロジェクト文書に置くほうが適している。一度のアップロードで返された下書きIDは、そのタスクの実行記録に属する。
| 情報 | 置くのに適した場所 | 使用前に注意すること |
|---|---|---|
| 本文では先に問題を述べ、その後に方法を説明してほしい | 執筆上の好み | 今回だけの特別な要求はないか |
| あるプロジェクトのデプロイ先とディレクトリ構成 | プロジェクト文書 | 移行や更新が行われていないか |
| この記事は下書きとしてのみ保存する | 現在のタスクの制約 | ほかの記事に自動的に適用しない |
| あるプラットフォーム上のオブジェクトIDと受付結果 | 実行記録 | 対象とコンテンツのバージョンを照合する |
| ある製品の現在の価格と機能 | 日付付きの資料記録 | 使用時に再確認する |
これらをすべて一つの「ユーザーについての記憶」に詰め込むと、次第に管理しにくくなる。タスクが終わっても一時的な状態が残り、プロジェクトが変わっても古いパスが残る。ある推測も、繰り返し現れるうちに事実らしく見えてしまうかもしれない。
よい記憶は「この記述はどこから来たのか」に答えられる
「ユーザーは簡潔さを好む」という記述はもっともらしく見えるが、AIが一度の修正から推測しただけかもしれない。
ユーザーがある段落を短くするよう求めただけなら、「今後すべての記事を短くすべきだ」とは直接導けない。同じように、あるプロジェクトで特定の手順の自動実行を許可したからといって、ほかのプロジェクトにも適用できるわけではない。
私なら、次のような記録を残したい。
執筆プロジェクト:ユーザーは記事の冒頭で具体的な問題を直接示すことを希望している。根拠は明示的な編集指示であり、このプロジェクトの今後の記事に適用する。ただし、その回の指示が異なる場合は、その回の指示を優先する。
曖昧なラベル一つよりも、適用範囲と根拠が明確だ。後から訂正するのも容易になる。記録が間違っていたと分かれば、元の決定に立ち返れる。AIに当時なぜそう考えたのかを説明させ続ける必要はない。
不確かな情報は、「不確か」であることを残すべきだ。たとえば「ユーザーは図表を好むかもしれない」は確認待ちの観察にとどめ、すべての記事に図表を付けるルールに変えてはいけない。
ここで示した記録形式は設計上の提案であり、どこかの製品がすでに提供している共通のフィールドではない。
記憶は追加するより、更新することのほうが重要な場合が多い
LangGraphのドキュメントでは、一つのプロフィールを継続的に更新する方法と、複数の記憶を集まりとして管理する方法が論じられている。前者は内容が大きくなると更新時に誤りが起きやすい。後者では、古い項目の検索、削除、更新、関連付けが難点になる。[1]
つまり、一件増やすのは簡単でも、既存の項目との関係を明らかにするには手間がかかる。
古い記録が「記事の画像はすべて末尾に置く」で、新しい要求が「カバー画像は導入文の後に置く」に変わったとする。新しい要求を末尾に追加するだけでは、次回の検索で両方が取り出され、矛盾が残る。
より明確な対処は、現在のルールを更新し、古いルールは置き換えられたと示すことだ。必要であれば、変更理由を履歴に残す。履歴はたどれるままにしつつ、現在のルールと同じ位置を争わせない。
今回限りの例外という場合もある。ある記事にカバー画像を入れないからといって、既定のレイアウトが永久に変わるとは限らない。その場合は、長期的なルールを維持し、その記事の例外として記録するべきだ。
だから、書き込む前に一つ確認したい。これは新しい好みなのか、古いルールの変更なのか、それとも一度限りの例外なのか。
記憶を保存しても、次回正しく使えるとは限らない
多くのアプリケーションでは、まず記憶を検索し、関連する内容をモデルに渡す必要がある。保存、検索、正しい理解は、それぞれ別の段階だ。
Anthropicのコンテキストエンジニアリングに関する記事は、必要に応じて読み込む考え方を紹介している。ファイルパス、クエリ、リンクなどの軽量な手がかりを残し、タスクで必要になったときに詳細を読むというものだ。[2] すべての資料を一つのプロンプトに長期間詰め込む必要はないと示している。
ただし、「見つけられる」ことは「今も有効である」ことを意味しない。1か月前の管理画面の操作手順は、現在の問題と強く関連していても、すでに古くなっているかもしれない。そのため、内容の類似度だけでなく、プロジェクト、対象、時期、有効かどうかも見る必要がある。
安定した好みに毎日の有効期限を設ける必要はない。変わりやすい情報には、確認日を付けたり、使用前に再確認が必要だと明記したりするのが適している。すべての記憶に同じ保存日数を強制する必要はない。
アカウントの秘密鍵のような情報については、通常の記憶に保存すべきなのは管理された設定の利用先であり、秘密そのもののコピーではない。モデルに認証情報を覚えさせるより、「許可済みの機能をどこから呼び出すか」を知らせるほうが適切な場合が多い。
本当に学んだのか、単に「覚えた」と言っただけなのかをどう確かめるか
いくつかの小さなテストで動作を観察できる。別の会話でも同じプロジェクトの好みが有効か。別のプロジェクトに誤って適用しないか。ルールを変更した後も、古いルールが結果に影響していないか。
見落としやすいテストがもう一つある。一時的な例外が終わった後、既定のやり方に戻れるかどうかだ。
テストを記録するときは、回答でその記憶に言及したかだけでなく、実際の動作が要求に沿っているかを見る。AIが「下書きとしてのみ保存する」と復唱できても、その後の公開操作が必ず制約されるとは限らない。
この記事では記憶システムの比較実験を行っていないため、正答率がどれだけ向上するかは示せない。情報を外部に保存して読み込むことも、モデルのパラメータが新たに訓練されたことを意味しない。
日々の共同作業に役立つ長期記憶は、ユーザーが閲覧、修正、削除できるものであるべきだ。次に要求が変わったとき、正確に更新できてこそ、本当に役立つ。
参考資料
確認日:2026年11月11日。本文中のシナリオと整理方法は設計上の例である。
- LangChain:Memory overview、短期記憶と長期記憶、プロフィールと記憶の集合を維持する際のトレードオフ。
- Anthropic:Effective context engineering for AI agents、2025-09-29、必要に応じた読み込み、軽量な参照、コンテキストの維持。
AI生成の概念図です。実測写真やネットワーク構成図ではありません。
コメント・議論
質問や実践の経験をお寄せください。コメントは承認後に表示されます。メールアドレスは公開されません。 コメントのプライバシー
コメントを読み込み中…