結論: AIの記憶は、増やすほど賢くなるのではなく腐る
AIに前提や決めごとを覚えさせるとき、つい多く書けば賢くなると考えがちです。弊社の結論は逆でした。**記憶は量ではなく、鮮度と正確さで決まる。**古い前提が1つ混ざるだけで、AIはそれを信じて堂々と間違えるからです。
弊社はAIに社内のルールや過去の判断を覚えさせ、毎日の作業を任せています。最初は「多く覚えているほど頼れる」と思い、気づいたことを片端から書き溜めていました。ところが、その貯め方が事故の入口でした。この記事では、AIに記憶を持たせるときに私たちが握っている3つの原則と、貯め込んで痛い目を見た失敗、そして記憶の正しさを毎月保つ仕組みを開いていきます。
先に原則を挙げます。1つ目は「1つの記憶は1つのファイルに分ける」。2つ目は「古くなった記憶は足すのではなく消す」。3つ目は「覚えた判断が正しかったかを毎月答え合わせする」。記憶は書き足す作業ではなく、鮮度を保つ手入れの作業だと考えています。
なぜAIは前の話を忘れるのか？
答えを先に言うと、AIは会話が変わるたびに記憶がまっさらに戻るからです。人のように昨日の続きを覚えているわけではありません。だから前提を引き継がせたいなら、会話の外側に記憶を置き、毎回それを読ませる必要があります。
弊社は、覚えさせたいことを短いメモ（覚え書きのファイル）にして外に置き、作業のたびにAIに読み込ませています。これで前の話を引き継げるようになりました。AIを同僚のように毎日の作業に迎える形についてはチャットの中にいるAIの同僚に書きました。ただし、ここで新しい問題が出ます。外に置いたメモは、放っておくと古くなる。忘れるAIに記憶を持たせると、今度は古い記憶が残り続けるという別の落とし穴に入るのです。
記憶を1枚に貯め込むと、何が起きたか？
これは実際に踏んだ失敗です。最初は、気づいたことを1枚の長いメモにどんどん書き足していました。すると、以前は使えなかった手段について「これはもう使えない」と書いた古い記述が残り続け、AIはそれを信じて「その方法は使えません」と誤って答えるようになりました。実際にはもう使えるのに、です。
原因は、新しい事実と古い前提が同じ1枚に同居していたことでした。そこで貯め方を2つ変えました。1つは記憶を1件ずつ別のファイルに分けたこと。もう1つは、「できない・使えない」という否定形の記憶は、そのまま信じずに一度試してから判断させるルールにしたことです。記憶を「新しいか古いか」と「裏が取れているか未確認か」の2つの軸で見て、古くて未確認のものは残さず消す。この手入れで、古い記憶による誤答はほぼ止まりました。覚えさせる範囲やルールそのものの決め方はAIを社内に迎えるときの憲法の書き方にまとめています。
記憶の「正確さ」は、どうやって保つのか？
答えを先に言うと、記憶を毎月「答え合わせ」しています。覚えている内容が今も正しいかは、時間が経つほど怪しくなる。だから増やしっぱなしにせず、定期的に照合して補正する仕組みを回しています。
具体的には、AIが出した判断や見込みを「予測」としてそのまま記録しておきます。そして後日、実際どうなったかと突き合わせ、当たったか外れたかを判定する。外れが続いた判断は、覚えさせ方そのものを直します。この循環を回すと、記憶は放っておくと腐るものから、使うほど正確になっていくものに変わります。作りっぱなしのAI活用と、答え合わせを続けるAI活用の差はここに出ます。予測を先に置いて後で照らすという同じ考え方はAIに任せる前に予測を書き、後で答え合わせするにも書きました。あわせて読むと、記憶の手入れと判断の答え合わせが1つの習慣としてつながります。
明日から試せる、記憶の手入れの第一歩
読んで終わりにならないよう、今日ひとりでできる一歩に落とします。AIに覚えさせたいことがあれば、1枚のメモに足していくのではなく、1件ごとに別のメモとして分けて書き始めてみてください。
やることはこれだけです。1件1メモにしておくと、古くなった記憶をあとで丸ごと消せます。1枚に混ぜてしまうと、どれが古いのか分からなくなり、消せずに腐ります。もう一歩進めるなら、AIが出した見込みを1件だけメモに残し、1か月後に見返して当たっていたかを確かめる。この小さな答え合わせが、記憶を賢く保ついちばん軽い入り口です。