La mémoire d’un compagnon : contexte, résumé, mémoire vectorielle

Un modèle de langage ne « retient » rien entre deux échanges : il ne voit que ce qu’on lui remet dans sa fenêtre de contexte, forcément limitée. Pour qu’un compagnon se souvienne, il faut construire une mémoire autour du modèle.

1. La fenêtre glissante

Le plus simple : garder les N derniers messages. Efficace à court terme, mais on perd tout ce qui dépasse la fenêtre.

historique = historique[-20:]  # ne garde que les 20 derniers tours

2. La mémoire par résumé

Pour ne pas perdre le passé lointain, on le condense : un résumé courant est mis à jour et réinjecté à chaque échange.

resume = llm("Résume la conversation en gardant l'essentiel:\n" + resume + nouveaux_tours)
prompt = f"Mémoire: {resume}\n\nÉchange récent: {historique}"

3. La mémoire vectorielle (long terme)

Pour retrouver un détail précis dit il y a des semaines, on stocke les souvenirs sous forme de vecteurs (embeddings) et on récupère les plus pertinents au moment voulu :

memoire.add(embed("Mon chat s'appelle Felix"))
# bien plus tard...
contexte = memoire.search(embed("comment va mon animal ?"), top_k=3)

Combiner les trois

Un bon compagnon mélange : fenêtre glissante pour le fil immédiat, résumé pour la continuité, mémoire vectorielle pour les faits durables. C’est cette architecture qui donne l’impression d’une présence qui « te connaît ».

La dimension éthique

Se souvenir implique de stocker des informations personnelles. D’où l’importance du chiffrement, du mode local et d’un droit d’effacement réel : la mémoire d’un compagnon doit rester sous le contrôle de l’utilisateur.