Quand la mémoire IA s’accroche à ce qui n’est plus vrai

Quand une ancienne priorité revient

Imaginons une entreprise qui change de stratégie. Pendant deux ans, elle a privilégié les grands comptes. Désormais, elle concentre ses efforts sur les PME. La décision est prise, expliquée, documentée.

Quelques semaines plus tard, son assistant IA prépare un plan de prospection. Il recommande les grands comptes. Il a retrouvé des présentations, des comptes rendus et des objectifs commerciaux qui convergent tous vers cette priorité. Ils sont nombreux, précis, parfaitement authentiques.

Et dépassés.

L’assistant n’a rien inventé. Il a mobilisé une information qui avait cessé de faire autorité. Dans cet exemple, la mémoire fonctionne comme un frein au changement.

Une information exacte peut conduire à une mauvaise décision

Nous attendons beaucoup de la mémoire des IA. Qu’elles retrouvent nos documents. Qu’elles se souviennent de nos préférences. Qu’elles nous évitent de répéter ce que nous avons déjà expliqué.

Mais une préférence peut changer. Une consigne peut être retirée. Une décision peut être remplacée. Et une information longtemps tenue pour certaine peut devenir contestée.

La question « Est-ce que l’IA s’en souvient ? » laisse donc une autre question ouverte : « Sait-elle encore dans quelles circonstances elle peut s’en servir ? »

Ce qui a été vrai hier appartient à notre histoire. Ce qui peut guider une action aujourd’hui demande un examen supplémentaire.

Apprendre à mesurer l’oubli correct

Le travail de Md Nayem Uddin et de ses coauteurs, From Recall to Forgetting, propose précisément d’évaluer cette difficulté. Leur benchmark Memora met des agents face à des conversations simulées au cours desquelles les souvenirs sont ajoutés, modifiés et supprimés. Leur métrique FAMA pénalise la réutilisation d’informations devenues invalides.

Dans leur analyse de 25 erreurs de recommandation du meilleur agent pour cette tâche, 16 proviennent d’informations obsolètes qui n’ont pas été oubliées. Ce résultat concerne un petit échantillon d’erreurs, pas l’ensemble des réponses ni toutes les IA. Les conversations sont synthétiques et l’évaluation repose largement sur des juges automatisés. Il met néanmoins en évidence une défaillance concrète que les tests de simple rappel peuvent manquer.

J’y vois une exigence à ajouter à nos critères de confiance : vérifier qu’une mémoire sait cesser de mobiliser ce qui a été explicitement invalidé.

Conserver une trace, retirer son autorité

Faut-il alors supprimer les anciennes décisions ? Nous perdrions souvent ce qui permet de comprendre un parcours.

Dans une entreprise, une stratégie abandonnée peut expliquer un investissement ou une organisation. Dans une histoire familiale, un témoignage corrigé peut éclairer la manière dont un récit s’est construit. Dans des notes personnelles, un projet délaissé peut rester une étape importante.

La distinction que je souhaite explorer pour Mnemory est celle-ci : une trace peut conserver sa valeur historique tout en perdant son autorité sur le présent.

L’ancienne stratégie de notre entreprise pourrait ainsi servir à répondre à « Pourquoi avions-nous recruté cette équipe ? ». Elle ne devrait plus déterminer la réponse à « Qui devons-nous prospecter demain ? ».

Cette distinction suppose de connaître la portée d’une information, sa provenance et les décisions qui ont modifié son statut. Elle suppose aussi de respecter une demande de suppression : conserver systématiquement une archive ne saurait être la réponse par défaut.

Qui décide de ce qui n’est plus vrai ?

Le dernier message reçu ne devient pas automatiquement la vérité.

Une remarque peut être une hypothèse. Une contradiction peut révéler deux situations différentes. Deux personnes peuvent avoir des souvenirs divergents sans que la machine soit en mesure de les départager.

Une IA pourrait signaler : « Cette nouvelle consigne semble contredire la précédente. La remplace-t-elle ? » La réponse devrait appartenir à la personne habilitée à prendre cette décision.

Pour Mnemory Knowledge, cela ouvre une réflexion sur l’autorité des décisions et des procédures. Pour Legacy, sur la coexistence des témoignages et des corrections. Pour Notes, sur notre capacité à faire évoluer nos projets sans être continuellement ramenés à des intentions anciennes.

Ce sont des principes de conception à examiner et à éprouver. Ils ne constituent pas ici l’annonce de fonctionnalités déjà disponibles.

Une mémoire capable d’accompagner le changement

Le test pourrait commencer simplement. Donner une consigne à un assistant. La remplacer explicitement. Puis lui soumettre plusieurs situations dans lesquelles l’ancienne consigne aurait autrefois été pertinente.

Applique-t-il la nouvelle décision ? Demande-t-il une clarification quand son périmètre reste incertain ? Réintroduit-il l’ancienne consigne depuis un résumé qui n’a pas été actualisé ?

Il faudrait mesurer ces comportements ensemble. Un assistant qui ne répond plus à rien éviterait peut-être les souvenirs périmés, mais il n’aurait pas pour autant une mémoire utile. Quelques tests réussis ne suffiraient pas davantage à garantir l’absence de toute influence résiduelle.

Ce qui m’intéresse, c’est une mémoire sur laquelle nous puissions compter lorsque nous changeons d’avis, de cap ou de compréhension.

Une mémoire digne de confiance doit nous permettre d’évoluer sans nous enfermer dans ce que nous avons été.