Dr Piotr Wozniak, juin 2018

Sommaire

• Introduction
• 1985 : naissance de SuperMemo
• 1986 : les premiers pas de SuperMemo
• 1987 : SuperMemo 1.0 pour DOS
• 1988 : les deux composantes de la mémoire
• 1989 : SuperMemo s’adapte à la mémoire de l’utilisateur
• 1990 : une formule universelle pour la mémoire
• 1991 : l’exploitation des courbes d’oubli
• 1994 : la nature exponentielle de l’oubli
• 1995 : SuperMemo hypermédia
• 1997 : l’exploitation des réseaux de neurones
• 1999 : le choix du nom : « répétition espacée »
• 2005 : la fonction d’augmentation de la stabilité
• 2014 : l’algorithme SM-17
• L’adoption exponentielle de la répétition espacée
• Résumé de la recherche sur la mémoire
• L’anatomie de l’échec et de la réussite

Introduction

La véritable histoire

L’histoire populaire de la répétition espacée est pleine de mythes et de contrevérités. Ce texte se propose de vous raconter la véritable histoire. Le problème avec la répétition espacée, c’est qu’elle est devenue trop populaire pour se répliquer fidèlement. Comme un virus qui mute rapidement, elle saute d’application en application, racontant sa propre histoire tout en accumulant des erreurs en chemin.

Qui a inventé la répétition espacée ?

Voici l’histoire de la façon dont j’ai résolu le problème de l’oubli. J’ai trouvé comment apprendre efficacement. La modestie est une perte de temps, j’ajouterai donc que je pense réellement savoir comment amplifier significativement l’intelligence humaine. En résumé : la mémoire sous-tend la connaissance, qui sous-tend l’intelligence. Si nous pouvons contrôler ce que nous stockons en mémoire et ce que nous oublions, nous pouvons contrôler notre capacité à résoudre des problèmes. De la même manière, nous pouvons aussi amplifier l’intelligence artificielle. C’est un grand soulagement de pouvoir enfin écrire ces mots fiers, après tant d’années sous le bâillon imposé par des considérations commerciales.

Au début des années 1990, je pensais savoir comment retourner les systèmes éducatifs du monde entier et les faire fonctionner pour tous les élèves. Cependant, tout changement majeur exige un basculement de paradigme culturel. Il ne suffit pas qu’un étudiant pauvre d’un pays communiste pauvre annonce un potentiel de changement. Je l’ai fait, dans mon mémoire de master, mais mes idées ont suscité peu d’intérêt. Même ma propre famille se montrait dédaigneuse. Heureusement, j’ai rencontré à l’université quelques amis brillants qui ont décidé d’utiliser mes idées pour monter une entreprise. Tout comme Microsoft a changé le monde de l’informatique personnelle, nous allions changer la façon dont les gens apprennent. Nous possédions un outil d’apprentissage puissant : SuperMemo. Cependant, pour que SuperMemo puisse conquérir le monde, il devait un temps renoncer à ses origines. Pour convaincre les autres, SuperMemo devait être présenté comme le produit d’une science pure. Il ne pouvait pas être simplement une idée conçue par un humble étudiant.

Pour ancrer SuperMemo dans la science, nous avons fait un effort considérable pour publier nos idées dans une revue à comité de lecture, adopté un terme scientifique alors peu connu, «  répétition espacée  », et replacé notre technologie d’apprentissage dans le contexte des théories de l’apprentissage et de l’histoire de la recherche en psychologie. Je suis très sceptique à l’égard des écoles, des diplômes et des titres. Pourtant, je suis même allé jusqu’à obtenir un doctorat en économie de l’apprentissage, pour donner du crédit à mes propos.

Aujourd’hui, alors que la répétition espacée apparaît enfin dans des centaines d’outils, d’applications et de services d’apprentissage respectables, nous pouvons enfin revendiquer nos droits et planter le drapeau au sommet. Le nombre d’utilisateurs atteint désormais plusieurs centaines de millions.

Si vous lisez SuperMemopedia ici, vous pourriez conclure que « Personne ne devrait jamais revendiquer la découverte de la répétition espacée ». Je me permets de ne pas être d’accord. Dans ce texte, je vais revendiquer l’entier crédit de la découverte, ainsi qu’une part solide du crédit pour la diffusion de l’idée. Ma contribution à cette dernière s’amenuise grâce à la force de l’idée elle-même et à un cercle croissant de personnes impliquées dans le concept (bien au-delà de notre entreprise).

Perpétuer des mythes

C’est Krzysztof Biedalak (PDG) qui a le moins de patience envers les fausses informations concernant la répétition espacée. Je vais donc attribuer ce texte et cet effort de démystification à sa détermination à rétablir l’histoire dans sa vérité. SuperMemo pour DOS est né il y a 30 ans (1987). Rendons-lui un peu hommage.

Si vous croyez qu’ Ebbinghaus a inventé la répétition espacée en 1885, je vous prie de m’excuser. En rédigeant l’ histoire de SuperMemo, nous avons placé le nom du vénérable psychologue allemand en tête de la liste chronologique, et le mythe est né. Ebbinghaus n’a jamais travaillé sur la répétition espacée.

Écrire sur l’histoire de la répétition espacée n’est pas facile. Chaque fois que nous le faisons, nous engendrons davantage de mythes par des distorsions et des malentendus. Soyons donc clairs et catégoriques. Il y a eu énormément de recherches sur la mémoire avant SuperMemo. Cependant, chaque fois que je distribue généreusement les crédits, gardez à l’esprit les mots de Biedalak :

Si SuperMemo est une navette spatiale, il faut reconnaître le travail antérieur effectué sur des bicyclettes. Pendant ce temps, notre concurrence s’efforce de reproduire notre navette, mais ses efforts rappellent le programme soviétique Bourane. Le Bourane a au moins effectué un vol spatial. Il était inhabité

Ce texte vise à rétablir les faits et à dévoiler ouvertement les premiers pas de la répétition espacée. C’est une incursion amusante dans le passé, qui me procure un plaisir particulier avec ce sentiment de « mission accomplie ». Maintenant que nous pouvons qualifier notre entreprise de succès mondial, il n’est plus besoin de la rendre plus respectable qu’elle ne l’est réellement. Nul besoin de la rendre plus scientifique, plus historique, ou plus certifiée.

La répétition espacée est là, et elle est là pour rester. Nous l’avons fait !

Remerciements

La liste des contributeurs à l’idée de répétition espacée est trop longue pour figurer dans ce court article. Certains noms n’y apparaissent pas simplement parce que le temps qui m’était alloué pour décrire leurs efforts s’est écoulé. Le Dr Phil Pavlik a probablement produit les idées les plus fraîches dans ce domaine. Toute une série de chercheurs en mémoire étudient l’impact de l’espacement sur la mémoire. Duolingo et Quizlet sont des concurrents de premier plan qui ont eu un impact puissant sur la bonne promotion de l’idée. J’ai omis de citer beaucoup de mes fantastiques enseignants qui ont inspiré ma réflexion. Toute l’équipe de personnes travailleuses et talentueuses de SuperMemo World mériterait également une mention. Les utilisateurs de SuperMemo apportent constamment des suggestions incroyables qui alimentent de nouveaux progrès. Le prix de l’explication la plus marquante de la répétition espacée devrait revenir à Gary Wolf de Wired, mais il y en a eu bien d’autres. Peut-être qu’un autre jour, j’aurai plus de temps pour écrire en détail sur toutes ces personnes formidables.

1985 : naissance de SuperMemo

La quête d’un meilleur apprentissage

J’ai passé 22 longues années dans le système éducatif. Les vieilles vérités sur la scolarité correspondent parfaitement à mon cas. Je n’ai jamais aimé l’école, mais j’ai toujours aimé apprendre. Je n’ai jamais laissé l’école interférer avec mon apprentissage. À mon entrée à l’université, après 12 ans dans le système scolaire public, j’aimais encore apprendre. La scolarité n’a pas détruit cet amour, pour deux raisons principales : (1) le système était clément avec moi, et (2) j’avais toute liberté d’apprendre ce qui me plaisait à la maison. Dans la Pologne communiste, je n’ai jamais vraiment subi le fouet toxique d’une scolarité pesante. Le système était négligent, et j’aimais les libertés qui en résultaient.

Nous savons tous que le meilleur apprentissage naît de la passion. Il est alimenté par le besoin d’apprendre. Mon besoin d’apprendre était fort, mêlé d’un peu de frustration. Plus j’apprenais, plus je constatais la puissance de l’oubli. Je ne pouvais pas remédier à l’oubli en apprenant davantage. Ma mémoire n’était pas mauvaise par rapport à celle des autres étudiants, mais c’était clairement un récipient percé.

En 1982, j’ai prêté plus d’attention à ce que la plupart des étudiants découvrent tôt ou tard : l’ effet de test. J’ai commencé à formuler mes connaissances pour le rappel actif. J’écrivais les questions sur la partie gauche d’une page et les réponses dans une colonne séparée à droite :

Ainsi, je pouvais couvrir les réponses avec une feuille de papier, et exploiter le rappel actif pour obtenir un meilleur effet mémoriel de la révision. C’était un processus lent, mais l’efficacité de l’apprentissage a augmenté de façon spectaculaire. Mes carnets de l’époque sont décrits comme du « matériau d’assimilation rapide », en référence à la façon dont mes connaissances étaient consignées.

Dans les années 1982-1983, j’ai continué à développer mes connaissances « d’assimilation rapide » en biochimie et en anglais. Je révisais mes pages d’informations de temps à autre pour réduire l’oubli. Ma rétention s’améliorait, mais ce n’était qu’une question de temps avant que je heurte à nouveau le mur. Plus j’avais de pages, moins la révision était fréquente, et plus le problème de la mémoire qui fuit devenait évident. Voici un exemple d’historique de répétitions de cette époque :

Entre juin 1982 et décembre 1984, mon carnet de paires de mots anglais-polonais comptait 79 pages qui ressemblaient à ceci :

Figure : Une page typique de mon carnet de mots anglais-polonais commencé en juin 1982. Les paires de mots étaient listées à gauche. L’historique de révision était consigné à droite. Les erreurs de rappel étaient marquées par des points au milieu

Ces 79 pages ne représentaient qu’à peine 2794 mots. Ce n’était qu’une fraction de ce dont j’avais besoin, et déjà un vrai casse-tête à réviser. Il est intéressant de noter que j’ai commencé à apprendre l’anglais de façon active, c’est-à-dire en utilisant des paires de mots polonais-anglais, seulement en 1984, soit avec deux ans de retard. J’ai simplement mis du temps à découvrir que la connaissance passive du vocabulaire suffit pour la lecture, mais pas pour parler une langue. Cette forme d’ignorance après 6 années de scolarité est la norme. Les écoles font beaucoup de bachotage, mais éclairent bien peu sur ce qui rend l’apprentissage efficace.

Fin 1984, j’ai décidé d’améliorer le processus de révision et de mener une expérience qui a changé ma vie. Au bout du compte, trois décennies plus tard, je suis extrêmement fier de constater qu’elle a en réalité touché des millions de personnes. Elle a ouvert les vannes. Nous vivons une ère d’apprentissage plus rapide et meilleur.

Voici comment cette période initiale était décrite dans mon mémoire de master en 1990 :

Avertissement d’archive : Pourquoi utiliser des archives littérales ?

Ce texte fait partie de : «  Optimisation de l’apprentissage  » par Piotr Wozniak (1990)

C’était en 1982 que j’ai fait mes premières observations concernant le mécanisme de la mémoire, observations qui seraient plus tard utilisées dans la formulation de la méthode SuperMemo. En tant qu’étudiant en biologie moléculaire à l’époque, j’étais submergé par la quantité de connaissances nécessaires pour réussir les examens de mathématiques, physique, chimie, biologie, etc. Le problème n’était pas d’être incapable de maîtriser ces connaissances. En général, 2 à 3 jours d’étude intensive suffisaient à me remplir la tête des données nécessaires pour passer un examen. Le point frustrant était que seule une fraction infime de cette sagesse nouvellement acquise pouvait rester en mémoire quelques mois après l’examen.

Ma première observation, évidente pour tout étudiant attentif, était que l’un des éléments clés de l’apprentissage était le rappel actif. Cette observation implique que la lecture passive des livres ne suffit pas si elle n’est pas suivie d’une tentative de rappeler les faits appris depuis la mémoire. Le principe consistant à fonder le processus d’apprentissage sur le rappel sera plus tard désigné sous le nom de principe du rappel actif. Le processus de rappel est bien plus rapide, et non moins efficace, si les questions posées par l’étudiant sont spécifiques plutôt que générales. En effet, les réponses aux questions générales contiennent des informations redondantes nécessaires pour décrire les relations entre les sous-composantes de la réponse.

Pour illustrer le problème, imaginons une situation extrême dans laquelle un étudiant souhaite maîtriser le contenu d’un certain manuel, et n’utilise qu’une seule question dans le processus de rappel : Qu’avez-vous appris de ce manuel ? Manifestement, une information décrivant l’ordre des chapitres du livre serait utile pour répondre à la question, mais elle est certainement redondante par rapport à ce que l’étudiant veut réellement savoir. Le principe consistant à fonder le processus de rappel sur des questions spécifiques sera plus tard désigné sous le nom de principe d’information minimale . Ce principe semble justifié non seulement en raison de l’élimination de la redondance.

En gardant à l’esprit les principes du rappel actif et de l’information minimale, j’ai créé mes premières bases de données (c’est-à-dire des ensembles de questions et de réponses) utilisées dans le but de conserver les connaissances acquises en mémoire. À cette époque, les bases de données étaient conservées sous forme écrite, sur papier. Ma première base de données a été commencée le 6 juin 1982, et se composait de pages contenant chacune une quarantaine de paires de mots. Le premier mot d’une paire (interprété comme une question) était un terme anglais, le second (interprété comme une réponse) était son équivalent polonais. Je désignerai ces paires sous le nom d’ éléments. Je répétais certaines pages de la base de données à intervalles irréguliers (dépendant surtout de la disponibilité de temps), en notant toujours la date de la répétition, les éléments non retenus et leur nombre. Cette façon de conserver les connaissances acquises en mémoire s’est révélée suffisante pour une base de données de taille modérée, à condition que les répétitions soient effectuées suffisamment souvent.

L’anniversaire de la répétition espacée : le 31 juillet 1985

Intuitions

En 1984, mon raisonnement sur la mémoire reposait sur deux intuitions simples que tous les étudiants ont probablement :

• si nous révisons quelque chose deux fois, nous le retenons mieux. C’est plutôt évident, non ? Si nous le révisons 3 fois, nous le retenons probablement encore mieux
• si nous mémorisons un ensemble de notes, elles disparaîtront progressivement de la mémoire, c’est-à-dire pas toutes en même temps. C’est facile à observer dans la vie. Les souvenirs ont des durées de vie différentes

Ces deux intuitions devraient amener chacun à se demander : à quelle vitesse et combien de notes perdons-nous, et quand devrions-nous réviser à nouveau ?

À ce jour, je suis toujours étonné que si peu de gens aient pris la peine de mesurer cet « intervalle optimal ». Lorsque je l’ai mesuré moi-même, j’étais sûr de trouver des résultats plus précis dans les ouvrages de psychologie. Je n’en ai trouvé aucun.

Expérience

L’expérience simple suivante a conduit à la naissance de la répétition espacée. Elle a été menée en 1985 et décrite pour la première fois dans mon mémoire de master en 1990. Elle a servi à établir les intervalles optimaux pour les 5 premières répétitions de pages de connaissances. Chaque page contenait une quarantaine de paires de mots, et l’intervalle optimal devait approcher le moment où environ 5 à 10 % de ces connaissances étaient oubliées. Naturellement, les intervalles étaient très adaptés à ce type particulier de matériel d’apprentissage et à une personne spécifique, moi en l’occurrence. De plus, pour accélérer les choses, les échantillons de mesure étaient réduits. Notez que ce n’était pas un projet de recherche. Il n’était pas destiné à la publication. Le but était simplement d’accélérer mon propre apprentissage. J’étais convaincu que quelqu’un d’autre avait déjà mesuré les intervalles de façon bien plus précise, mais 13 ans avant la naissance de Google, je pensais que mesurer moi-même les intervalles serait plus rapide que de fouiller les bibliothèques à la recherche de meilleures données. L’expérience s’est achevée le 24 août 1985, date que j’avais initialement désignée comme l’anniversaire de la répétition espacée. Cependant, en rédigeant ce texte en 2018, j’ai retrouvé le matériel d’apprentissage original, et il semble que mon empressement à apprendre m’ait conduit à formuler l’ébauche d’un algorithme et à commencer l’apprentissage de la biologie humaine le 31 juillet 1985.

Pour cette raison, je peux dire que la date de naissance la plus exacte de SuperMemo et de la répétition espacée informatisée est le 31 juillet 1985.

Le 31 juillet, avant la fin de l’expérience, les résultats semblaient déjà suffisamment prévisibles. Dans les années suivantes, les conclusions de cette expérience particulière se sont révélées assez universelles et ont pu être étendues à davantage de domaines de connaissance et à l’ensemble de la population adulte en bonne santé. Même en 2018, les paramètres par défaut de l’ algorithme SM-17 ne s’écartent guère de ces conclusions rudimentaires.

La répétition espacée est née le 31 juillet 1985

Voici la description originale de l’expérience, tirée de mon mémoire de master, avec de légères corrections de grammaire et de style. Les passages en gras ont été ajoutés en 2018 pour mettre en évidence les points importants. Si cela vous semble ennuyeux et illisible, comparez avec Ebbinghaus 1885. C’est le même style d’écriture dans le domaine de la mémoire. Seuls les objectifs différaient. Ebbinghaus essayait de comprendre la mémoire. 100 ans plus tard, je voulais simplement apprendre plus vite :

Avertissement d’archive : Pourquoi utiliser des archives littérales ?

Ce texte fait partie de : «  Optimisation de l’apprentissage  » par Piotr Wozniak (1990)

Expérience destinée à approximer la durée des intervalles inter-répétitions optimaux (25 février 1985 – 24 août 1985) :

1. L’expérience se composait des étapes A, B, C, etc. Chacune de ces étapes visait à calculer le deuxième, troisième, quatrième, et suivants, intervalles inter-répétitions quasi optimaux (le premier intervalle avait été fixé à un jour, ce qui semblait l’intervalle le plus adapté d’après les données recueillies précédemment). Le critère pour établir les intervalles quasi optimaux était qu’ils devaient être aussi longs que possible tout en n’autorisant pas plus de 5 % de perte des connaissances mémorisées.
2. Les connaissances mémorisées dans chacune des étapes A, B, C se composaient de 5 pages contenant environ 40 éléments de la forme suivante :Question : mot anglais,Réponse : son équivalent polonais.
3. Chacune des pages utilisées dans une étape donnée était mémorisée en une seule session, puis répétée le jour suivant. Pour éviter toute confusion, notez que, afin de simplifier les développements ultérieurs, j’utilise le terme « première répétition » pour désigner la mémorisation d’un élément ou d’un groupe d’éléments. Après tout, les deux processus, mémorisation et réapprentissage, ont la même forme : répondre à des questions jusqu’à ce que le nombre d’erreurs atteigne zéro.
4. Dans l’étape A (25 février – 16 mars), la troisième répétition a été effectuée à des intervalles de 2, 4, 6, 8 et 10 jours pour chacune des cinq pages respectivement. La perte de connaissances observée après ces répétitions était respectivement de 0, 0, 0, 1, 17 pourcent. L’intervalle de sept jours a été choisi pour approximer le deuxième intervalle inter-répétitions quasi optimal séparant la deuxième et la troisième répétition.
5. Dans l’étape B (20 mars – 13 avril), la troisième répétition a été effectuée après des intervalles de sept jours, tandis que la quatrième répétition suivait après 6, 8, 11, 13, 16 jours pour chacune des cinq pages respectivement. La perte de connaissances observée s’élevait à 3, 0, 0, 0, 1 pourcent. L’intervalle de 16 jours a été choisi pour approximer le troisième intervalle quasi optimal. NB : il aurait été scientifiquement plus valide de répéter l’étape B avec des variantes plus longues du troisième intervalle, car la perte de connaissances était faible même après le plus long des intervalles choisis ; cependant, j’étais alors trop impatient de voir les résultats des étapes suivantes pour consacrer du temps à répéter l’étape B, qui semblait déjà suffisamment réussie (c’est-à-dire qu’elle avait produit une bonne rétention)
6. Dans l’étape C (20 avril – 21 juin), les troisièmes répétitions ont été effectuées après des intervalles de sept jours, les quatrièmes répétitions après des intervalles de 16 jours, et les cinquièmes répétitions après des intervalles de 20, 24, 28, 33 et 38 jours. La perte de connaissances observée était de 0, 3, 5, 3, 0 pourcent. L’étape C a été répétée avec des intervalles plus longs précédant la cinquième répétition (31 mai – 24 août). Les intervalles et pertes de mémoire étaient les suivants : 32 jours-8 %, 35 jours-8 %, 39 jours-17 %, 44 jours-20 %, 51 jours-5 % et 60 jours-20 %. L’intervalle de 35 jours a été choisi pour approximer le quatrième intervalle quasi optimal.

Il n’est pas difficile de remarquer que chacune des étapes de l’expérience décrite a nécessité environ deux fois plus de temps que la précédente. Il pourrait falloir plusieurs années pour établir les dix premiers intervalles inter-répétitions quasi optimaux. En effet, j’ai poursuivi ce genre d’expériences les années suivantes afin de mieux comprendre le processus des répétitions optimalement espacées des connaissances mémorisées. Cependant, à l’époque, j’ai décidé d’exploiter ces conclusions dans mon processus quotidien d’apprentissage routinier.

Le 31 juillet 1985, je pouvais déjà pressentir le résultat de l’expérience. J’ai commencé à utiliser SuperMemo sur papier pour apprendre la biologie humaine. Ce serait la meilleure date à retenir comme anniversaire de SuperMemo.

Les événements du 31 juillet 1985

Le 31 juillet 1985, SuperMemo est né. Je disposais déjà de la plupart des données de mon expérience sur la répétition espacée. En praticien impatient, je n’ai pas attendu la fin de l’expérience. Je voulais commencer à apprendre le plus vite possible. Ayant accumulé une grande quantité de notes en biologie humaine, j’ai commencé à convertir ces notes au format Special Memorization Test (SMT était le nom original de SuperMemo, et de la répétition espacée).

Figure : Biologie humaine au format Special Memorization Test, commencé le 31 juillet 1985 (c’est-à-dire la naissance de SuperMemo)

Mes calculs m’indiquaient que, à 20 min/jour, il me faudrait 537 jours pour traiter mes notes et achever le travail en janvier 1987. J’ai aussi calculé que chaque page du test me coûterait probablement 2 heures de vie. Malgré toute la promesse et la rapidité de SuperMemo, cette prise de conscience était assez douloureuse. La vitesse d’apprentissage à l’université est bien trop rapide pour la capacité de la mémoire humaine. Maintenant que je pouvais apprendre bien plus vite et bien mieux, j’ai aussi réalisé que je ne couvrirais même pas une fraction de ce que je pensais possible. Les écoles n’ont aucun sens avec leur volume et leur rythme. Ce même jour, j’ai appris que le gouvernement communiste polonais avait levé les droits d’importation sur les micro-ordinateurs. Cela devait rendre possible, à terme, l’achat d’un ordinateur en Pologne. Cela ouvrait la voie vers SuperMemo pour DOS, 2 ans et demi plus tard.

Toujours le 31 juillet, j’ai noté que si les vacances pouvaient durer toujours, j’accomplirais bien davantage en matière d’apprentissage, et même dans la vie en général. L’école est un tel gaspillage de temps. Cependant, la menace de la conscription m’a maintenu dans le rang. J’allais m’engager sur une voie qui m’obligerait à m’inscrire à l’université pour 5 années supplémentaires. Cependant, la plus grande partie de ce temps a été consacrée à SuperMemo, et j’ai peu de regrets.

Mon expérience sur la répétition espacée s’est achevée le 24 août 1985. J’ai aussi commencé à apprendre le vocabulaire anglais. À cette date, j’avais réussi à mettre par écrit la plus grande partie de mon matériel de biochimie, sous forme de pages destinées à la révision dans SuperMemo.

Remarque : mon mémoire de master indique par erreur le 1er octobre 1985 comme le jour où j’ai commencé à apprendre la biologie humaine (et non le 31 juillet, comme le montre l’image ci-dessus). Le 1er octobre 1985 était en réalité le premier jour de mes études universitaires en informatique, et n’avait par ailleurs rien de remarquable. Avec le début de l’université, mon temps et mon énergie disponibles pour l’apprentissage ont été drastiquement réduits. Paradoxalement, le début de l’école semble toujours annoncer la fin d’un bon apprentissage.

Premier algorithme de répétition espacée : algorithme SM-0, 25 août 1985

Grâce à mon expérience de répétition espacée, j’ai pu formuler le premier algorithme de répétition espacée qui ne nécessitait aucun ordinateur. Tout l’apprentissage devait se faire sur papier. Je n’avais pas d’ordinateur en 1985. Je n’obtiendrais mon premier micro-ordinateur, un ZX Spectrum, qu’en 1986. SuperMemo devrait attendre le premier ordinateur équipé d’un lecteur de disquettes (Amstrad PC 1512, en 1987).

On me pose souvent cette question simple : « Comment peux-tu formuler SuperMemo à partir d’une expérience qui n’a duré que 6 mois ? Comment peux-tu prédire ce qui se passerait dans 20 ans ? »

Les premières expériences relatives à la durée de l’intervalle optimal ont abouti à des conclusions qui permettaient de prédire la durée la plus probable des intervalles inter-répétitions successifs sans même mesurer la rétention au-delà de quelques semaines ! En bref, on pourrait illustrer cela par le raisonnement suivant. Si les premiers mois de recherche produisaient les intervalles optimaux suivants : 1, 2, 4, 8, 16 et 32 jours, on pouvait espérer avec confiance que les intervalles suivants augmenteraient d’un facteur deux.

Avertissement d’archive : Pourquoi utiliser des archives littérales ?

Ce texte fait partie de : «  Optimisation de l’apprentissage  » par Piotr Wozniak (1990)

Algorithme SM-0, utilisé pour la répétition espacée sans ordinateur (25 août 1985)

1. Diviser les connaissances en éléments de type question-réponse les plus petits possible
2. Associer les éléments en groupes de 20 à 40 éléments. Ces groupes seront appelés plus tard des pages
3. Répéter des pages entières en utilisant les intervalles suivants (en jours) : I(1)=1 jourI(2)=7 joursI(3)=16 joursI(4)=35 jourspour i>4 : I(i):=I(i-1)*2où :
   • I(i) est l’intervalle utilisé après la i-ème répétition
4. Copier tous les éléments oubliés après l’intervalle du 35e jour dans des pages nouvellement créées (sans les retirer des pages précédemment utilisées). Ces nouvelles pages seront répétées de la même façon que les pages contenant des éléments appris pour la première fois

Notez que l’on avait supposé que les intervalles inter-répétitions, après la cinquième répétition, doubleraient à chaque répétition suivante. Ce fait reposait sur une intuition plutôt que sur une expérience. En deux ans d’utilisation de l’algorithme SM-0, des données suffisantes ont été recueillies pour confirmer une précision raisonnable de cette hypothèse.

À ce jour, j’entends encore certaines personnes utiliser, voire préférer, la version papier de SuperMemo. Voici une description datant de 1992.

Notez que l’intuition selon laquelle les intervalles devraient doubler est aussi ancienne que la théorie de l’apprentissage. En 1932, C. A. Mace évoquait des méthodes d’apprentissage efficaces dans son ouvrage « The psychology of study ». Il mentionnait la « répétition active » et les « révisions répétitives » qui devaient être espacées selon des intervalles progressivement croissants, environ « des intervalles d’un jour, deux jours, quatre jours, huit jours, et ainsi de suite ». Cette proposition a ensuite été reprise par d’autres auteurs, notamment Paul Pimsleur et Tony Buzan, qui ont chacun proposé leurs propres intuitions, impliquant des intervalles très courts (en minutes) ou une « répétition finale » (après quelques mois). Toutes ces idées n’ont pas vraiment pénétré la pratique de l’étude au-delà des élites de l’apprentissage. Seule une application informatique a permis de commencer à apprendre efficacement sans étudier la méthodologie elle-même.

Ce facteur de multiplication intuitif de 2 pour les intervalles est aussi apparu dans le cadre de l’étude de la possibilité d’une optimisation évolutive de la mémoire en réponse aux propriétés statistiques de l’environnement : « La mémoire est optimisée pour répondre aux propriétés probabilistes de l’environnement  »

Malgré toute sa simplicité, dans mon mémoire de master, je n’ai pas hésité à qualifier ma nouvelle méthode de « révolutionnaire » :

Avertissement d’archive : Pourquoi utiliser des archives littérales ?

Ce texte fait partie de : «  Optimisation de l’apprentissage  » par Piotr Wozniak (1990)

Bien que le taux d’acquisition n’ait pas semblé fulgurant, l’algorithme SM-0 était révolutionnaire par rapport à mes méthodes précédentes, pour deux raisons :

• avec le passage du temps, la rétention des connaissances augmentait au lieu de diminuer (comme c’était le cas avec l’apprentissage intermittent)
• sur le long terme, le taux d’acquisition restait presque inchangé (avec l’apprentissage intermittent, le taux d’acquisition déclinait substantiellement au fil du temps)

[…]

Pour la première fois, j’ai pu concilier une rétention élevée des connaissances avec des répétitions peu fréquentes, ce qui a conduit à un volume de connaissances retenues en constante augmentation, sans nécessité d’accroître la charge de temps !

Une rétention de 80 % était facilement atteinte, et pouvait même être augmentée en raccourcissant les intervalles inter-répétitions. Cela impliquait toutefois des répétitions plus fréquentes et, par conséquent, une charge de temps accrue. L’espacement des répétitions retenu offrait un compromis satisfaisant entre rétention et charge de travail.

[…]L’amélioration significative suivante de l’algorithme SM-0 n’est intervenue qu’en 1987, après l’application d’un ordinateur pour superviser le processus d’apprentissage. Dans l’intervalle, j’avais accumulé environ 7190 et 2817 éléments dans mes nouvelles bases de données d’anglais et de biologie respectivement. Avec un temps de travail estimé à 12 minutes par jour pour chaque base de données, le taux moyen d’acquisition des connaissances s’élevait à 260 et 110 éléments/an/minute respectivement, tandis que la rétention des connaissances atteignait 80 % au pire.

La naissance de SuperMemo vue avec une décennie de recul

Une décennie après la naissance de SuperMemo, celui-ci était devenu plutôt connu en Pologne. Voici la même histoire, telle que racontée par J. Kowalski, Enter, en 1994 :

C’était en 1982, lorsqu’un étudiant de 20 ans en biologie moléculaire à l’université Adam Mickiewicz de Poznań, Piotr Wozniak, s’est trouvé très frustré par son incapacité à retenir dans son cerveau les connaissances nouvellement apprises. Cela concernait la vaste matière de la biochimie, de la physiologie, de la chimie et de l’anglais, qu’il fallait maîtriser pour espérer une carrière réussie en biologie moléculaire. Une des principales incitations à s’attaquer au problème de l’oubli de façon plus systématique fut un simple calcul effectué par Wozniak, qui lui montra qu’en poursuivant son travail de maîtrise de l’anglais avec ses méthodes habituelles, il lui faudrait 120 ans pour acquérir tout le vocabulaire important. Cela a non seulement poussé Wozniak à travailler sur des méthodes d’apprentissage, mais l’a aussi transformé en défenseur déterminé de l’idée d’une langue unique pour tous (compte tenu du temps et de l’argent dépensés par l’humanité en traduction et en apprentissage des langues). Au départ, Wozniak accumulait des piles croissantes de notes contenant des faits et chiffres qu’il souhaitait retenir. Il ne fallut pas longtemps pour découvrir que l’oubli exige des répétitions fréquentes et qu’une approche systématique est nécessaire pour gérer toutes les connaissances nouvellement collectées et mémorisées. Suivant une intuition évidente, Wozniak a tenté de mesurer la rétention des connaissances après différents intervalles inter-répétitions, et a formulé en 1985 la première ébauche de SuperMemo, qui ne nécessitait pas encore d’ordinateur. En 1987, Wozniak, alors en deuxième année d’informatique, était assez stupéfait de l’efficacité de sa méthode et décida de l’implémenter sous forme d’un simple programme informatique. L’efficacité du programme s’est révélée dépasser largement ce qu’il avait imaginé. Cela a déclenché un échange scientifique passionnant entre Wozniak et ses collègues de l’université de technologie de Poznań et de l’université Adam Mickiewicz. Une douzaine d’étudiants de son département ont endossé le rôle de cobayes et mémorisé des milliers d’éléments, fournissant un flux constant de données et de retours critiques. Le Dr Gorzelańczyk, de l’Académie de médecine, a contribué à formuler le modèle moléculaire de la formation de la mémoire et à modéliser les phénomènes se produisant dans la synapse. Le Dr Makałowski, du département de biochimie des biopolymères, a contribué à l’analyse des aspects évolutifs de l’optimisation de la mémoire (NB : c’est aussi lui qui a suggéré d’enregistrer SuperMemo pour le prix Software for Europe). Janusz Murakowski, titulaire d’un master en physique, alors inscrit dans un programme de doctorat à l’université du Delaware, a aidé Wozniak à résoudre des problèmes mathématiques liés au modèle de l’apprentissage intermittent et à la simulation des courants ioniques lors de la transmission du potentiel d’action dans les cellules nerveuses. Une douzaine de futurs enseignants universitaires, avec en tête le Pr Zbigniew Kierzkowski, ont aidé Wozniak à orienter son programme d’études vers un seul objectif : combiner tous les aspects de SuperMemo en une théorie cohérente englobant les aspects moléculaires, évolutifs, comportementaux, psychologiques, voire sociétaux de SuperMemo. Wozniak, qui affirme avoir découvert plusieurs propriétés importantes et jamais publiées de la mémoire, avait l’intention de consolider ses théories en obtenant un doctorat en neurosciences aux États-Unis. De longues heures de discussion avec Krzysztof Biedalak, titulaire d’un master en informatique, ont amené les deux hommes à choisir une autre voie : tenter de réaliser la vision consistant à apporter SuperMemo aux étudiants du monde entier.

1986 : les premiers pas de SuperMemo

SuperMemo sur papier

Le 22 février 1984, j’ai calculé qu’à mon rythme d’apprentissage et avec l’investissement que j’y consacrais, il me faudrait 26 ans pour maîtriser l’anglais (dans SuperMemo, le standard Advanced English est de 4 ans à 40 min/jour). Avec l’arrivée de SuperMemo sur papier, cette statistique s’est spectaculairement améliorée.

À l’été 1985, en utilisant SuperMemo sur papier, j’ai commencé à apprendre avec un enthousiasme immense. Pour la première fois, je savais que tout investissement dans l’apprentissage porterait ses fruits. Rien ne pouvait plus passer entre les mailles du filet. Cet enthousiasme précoce me fait aujourd’hui me demander pourquoi je n’ai pas partagé cette bonne nouvelle avec les autres.

SuperMemo n’était pas une « arme secrète » que beaucoup d’utilisateurs exploitent pour impressionner les autres. Je pensais simplement que la science avait déjà répondu à toutes les questions relatives à l’apprentissage efficace. J’avais l’impression de n’avoir fait que rafistoler mon propre accès limité à la littérature occidentale par un peu de recherche personnelle. Ma naïveté d’alors était astronomique. Mon anglais n’était pas assez bon pour comprendre les nouvelles venant de l’Occident. L’Amérique était pour moi une terre de surhumains qui faisaient de la super-science, marchaient sur la Lune, réalisaient toutes les grandes découvertes et allaient bientôt guérir le cancer et devenir immortels. En même temps, c’était le pays de Reagan, qui pouvait rayer la Pologne de la surface de la Terre avec des missiles Pershing ou de croisière. Cela m’a valu quelques cauchemars. Peut-être la seule véritable source de stress au début des années 1980. Je m’interroge souvent sur les incohérences étonnantes présentes dans le cerveau des tout-petits ou des enfants. Pour moi, la naïveté de mon début de vingtaine me dit que j’ai dû être un enfant à développement tardif, très inégal. L’ignorance de l’anglais se traduisait par l’ignorance du monde. J’étais un jeune adulte avec des domaines de force et des zones d’ignorance incroyable. Dans ce contexte, la répétition espacée apparaît comme l’enfant d’un besoin combiné à l’ignorance, à la confiance en soi et à la passion.

L’université

En octobre 1985, j’ai commencé mes études universitaires en informatique. J’ai perdu ma passion pour l’université dès la première semaine de cours. Au lieu de programmer, nous étions soumis à des cours d’introduction affreusement ennuyeux en mathématiques, physique, électronique, etc. Avec un emploi du temps chargé, j’aurais pu facilement devenir un décrocheur de SuperMemo. Heureusement, mon amour pour la biochimie et mon besoin d’anglais ne me laissaient pas ralentir. J’ai continué mes répétitions, ajoutant de nouvelles pages de temps à autre. Surtout, j’avais un nouveau rêve : posséder mon propre ordinateur et faire un peu de programmation moi-même. L’une des premières choses que je voulais implémenter était SuperMemo. Je garderais mes pages sur l’ordinateur et les ferais programmer automatiquement.

J’ai mentionné en passant ma méthode de super-apprentissage à mon ami de lycée Andrzej « Mike » Kubiak seulement à l’été 1987 (le 29 août). Nous jouions ensemble au football et à la musique. Je lui ai finalement montré comment utiliser SuperMemo le 14 novembre 1987. Il m’a fallu 836 jours (2 ans, 3 mois et 2 semaines) pour recruter le premier utilisateur de SuperMemo. Mike a ensuite été mon cobaye pour tester SuperMemo dans l’apprentissage procédural. Il s’entraînait régulièrement à des rythmes générés par ordinateur en suivant un calendrier de type SuperMemo. Pour Mike, ce fut un coup de foudre. Son vocabulaire a explosé. Il est resté fidèle pendant de nombreuses années, jusqu’à ce que la qualité de son anglais dépasse le besoin d’un apprentissage supplémentaire. Il est yogi, et son voyage en Inde ainsi que son usage régulier de l’anglais ont consolidé les connaissances nécessaires pour la vie.

Le ZX Spectrum

En 1986 et 1987, je pensais de plus en plus souvent à SuperMemo sur ordinateur. Chose étrange, au départ, je ne pensais pas beaucoup au problème de séparer les pages en fiches individuelles. Cela illustre à quel point nous pouvons avoir l’esprit fermé lorsque nous tombons dans la routine de faire les mêmes choses tous les jours. Pour parvenir à l’état de 2018, SuperMemo a dû traverser des dizaines de percées et de micro-étapes tout aussi évidentes. Tout cela semble si simple et évident avec le recul. Cependant, il existe des limites cachées à la pensée humaine qui ont empêché la lecture incrémentale d’émerger une décennie plus tôt. Seule une fraction de ces limites relève de la technologie.

Lors de ma première année d’université, j’avais très peu de temps et d’énergie disponibles, et j’ai investi la plus grande partie de ce temps à obtenir mon premier ordinateur : un ZX Spectrum (janvier 1986). J’en avais emprunté un à un ami pour une journée à l’automne 1985, et j’étais complètement subjugué. J’ai commencé à programmer « sur papier » longtemps avant d’avoir ce jouet en main. Mon premier programme était un précurseur de « planification de la journée », ancêtre de Plan. Le programme était prêt à être saisi dans l’ordinateur lorsque j’ai allumé mon ZX Spectrum pour la première fois, le 4 janvier 1986. À partir de ce jour, j’ai passé la plupart de mes journées à programmer, ignorant l’école et écrivant mes programmes sur papier, même pendant les cours.

Figure : Ordinateur personnel 8 bits ZX Spectrum.

L’armée

Le début de l’année 1986 a été gâché par la menace de la conscription. Je pensais que 5 années supplémentaires à l’université signifiaient 5 années supplémentaires de liberté. Cependant, l’armée avait d’autres idées. Pour elle, un second diplôme ne comptait pas, et j’ai dû me démener pour éviter le service. Ma colère était triplée par le fait que je n’aurais jamais envisagé 12 mois de séparation avec mon meilleur nouvel ami : le ZX Spectrum. J’ai expliqué à l’homme en uniforme qu’ils ne voulaient vraiment pas avoir un homme en colère avec une arme dans leurs rangs. Heureusement, dans le fatras de la bureaucratie communiste, j’ai réussi à passer entre les mailles du filet et à poursuivre mes études. À ce jour, je suis particulièrement sensible aux questions de liberté. La conscription n’est pas très différente de l’esclavage. Ce n’était pas une conscription au nom de la lutte contre le fascisme. C’était une conscription pour un bachotage sans réflexion, le pas de l’oie, les réveils précoces, les repas chauds avalés à la hâte et le stress. Si cela devait servir la préparation du bloc communiste, ce serait une préparation digne de l’ armée du brave soldat Chvéïk. Aujourd’hui, des millions d’enfants sont envoyés à l’école dans le cadre d’un effort similaire, proche de la conscription, à la limite de l’esclavage. Je vous invite à lire mon texte « Je n’enverrais jamais mes enfants à l’école » pour connaître mon point de vue sur le piétinement coercitif des droits humains des enfants. Je suis certain qu’une partie de mes convictions ont été façonnées par ce sentiment d’asservissement vécu en 1986.

Le jour où le nuage radioactif de Tchernobyl est passé au-dessus de Poznań, en Pologne, j’étais occupé à marcher de bureau en bureau à travers la vaste ville, visitant des bureaux militaires et civils dans mon effort pour échapper à l’armée. J’ai réussi, et l’été 1986 a été l’un des plus ensoleillés jamais vécus. J’ai passé mes journées à programmer, faire du jogging, apprendre avec SuperMemo (sur papier), nager, jouer au football, et programmer encore.

L’été 1986

Mon appétit pour les nouveaux logiciels était insatiable. J’ai écrit un programme de composition musicale, un autre pour prédire les résultats de la Coupe du monde, un pour le morpion en 3D, un pour rédiger des contrôles scolaires, et bien d’autres encore. J’ai obtenu quelques travaux du département de biochimie (université Adam Mickiewicz). Mon héros, le Pr Augustyniak, avait besoin d’un logiciel pour simuler la fusion de l’ADN, et pour la recherche rapide de gènes d’ARNt (des années plus tard, cela a conduit à une publication). Il m’a également commandé un programme d’analyse de régression, qui a plus tard inspiré des progrès dans SuperMemo (en particulier les algorithmes SM-6 et SM-8).

Tout en programmant, j’avais SuperMemo constamment en tête, mais tous mes logiciels se caractérisaient par l’absence de toute base de données. Les programmes devaient être chargés depuis une cassette, ce qui était vraiment pénible (cela ne me gênait pas à l’époque, en 1986). Il était plus simple de conserver mes connaissances SuperMemo sur papier. J’ai commencé à rêver d’un ordinateur plus puissant. Cependant, dans la Pologne communiste, le coût était hors de portée. J’ai un jour calculé qu’un IBM PC coûterait l’équivalent des revenus de toute une vie de travail de ma mère dans le système communiste. Encore en 1989, je ne pouvais pas me permettre d’utiliser des toilettes payantes en Hollande, tant c’était astronomiquement cher comparé aux salaires polonais.

Le PC 1512

Toute ma famille a mis la main à la poche. Mon cousin, le Dr Garbatowski, a arrangé un compte spécial en devises étrangères pour les transferts en Deutsche Mark. Par miracle, j’ai pu m’offrir un Amstrad PC 1512 venu d’Allemagne, pour 1000 DM. L’ordinateur n’a pas été introduit en contrebande, contrairement à ce qui a un jour été rapporté dans la presse. Ma tentative de contrebande ratée remonte à deux ans plus tôt, concernant le ZX Spectrum. Mes amis du Zaïre devaient me l’acheter à Berlin-Ouest. Finalement, j’ai acheté un ZX Spectrum d’occasion en Pologne, à bon prix, auprès de quelqu’un qui pensait vendre « juste un clavier ».

Figure : Amstrad PC-1512 DD. Ma version ne comportait qu’un seul lecteur de disquettes. Le système d’exploitation MS-DOS devait être chargé depuis une disquette, Turbo Pascal 3.0 depuis une autre, et SuperMemo depuis encore une autre. Le temps que j’obtienne mon premier disque dur en 1991, ma collection d’anglais était répartie en morceaux de 3000 éléments sur 13 disquettes. J’en avais bien d’autres pour les autres domaines de connaissance. Le 21 janvier 1997, SuperMemo World a retrouvé la trace de ce PC original et l’a racheté à son propriétaire : Jarek Kantecki. Le PC a fonctionné parfaitement pendant toute une décennie. Il est aujourd’hui enseveli quelque part dans les archives poussiéreuses de l’entreprise. Peut-être publierons-nous un jour sa photo. L’image présentée provient de Wikipedia

Mon Amstrad-Schneider PC 1512 allemand a été commandé auprès d’une entreprise polonaise, Olech. Olech devait le livrer en juin 1987. Ils l’ont fait en septembre. Cela m’a coûté tout l’été en stress. Quelque temps plus tard, Krzysztof Biedalak a commandé un PC auprès d’une entreprise néerlandaise, Colgar, et n’a jamais reçu ni le PC ni son argent en retour. Si cela m’était arrivé, j’aurais perdu confiance en l’humanité. Cela aurait tué SuperMemo. Cela aurait pu tuer ma passion pour les ordinateurs. Biedalak, lui, est stoïquement retourné au travail acharné et a récupéré son argent, et bien plus encore. Ce serait l’une des différences de personnalité essentielles entre lui et moi. La résilience au stress devrait être l’une des composantes du développement personnel. J’ai développé ma propre résilience au stress tardivement, grâce à un entraînement à la discipline personnelle (comme la nage hivernale ou les marathons). Ayant perdu son argent, Biedalak ne s’est pas plaint. Il l’a récupéré en un rien de temps. J’étais bientôt envieux de son nouveau PC tout brillant. Son travail acharné et sa détermination à atteindre ses objectifs ont toujours été essentiels à la survie de l’entreprise. C’est son propre argent, gagné à titre privé, qui a aidé SuperMemo World à survivre ses premiers mois. Il n’a pas reçu de cadeau de ses parents. Il a toujours su se débrouiller seul.

Simuler le processus d’apprentissage

Le 22 février 1986, avec mon ZX Spectrum, j’ai écrit un programme pour simuler le processus d’apprentissage à long terme avec SuperMemo. Je craignais qu’avec l’accumulation de matériel, le processus d’apprentissage ne ralentisse considérablement. Cependant, mes résultats préliminaires étaient assez contre-intuitifs : la progression est presque linéaire. Il n’y a pas de ralentissement notable de l’apprentissage au-delà de la période initiale.

Le 25 février 1986, j’ai étendu le programme de simulation avec de nouvelles fonctions destinées à répondre à des « questions brûlantes sur la mémoire ». Le programme a tourné sur le Spectrum pendant 5 jours avant que je puisse obtenir des résultats complets pour 80 années d’apprentissage. Il a confirmé mes conclusions initiales.

Le 23 mars 1986, j’ai réussi à écrire le même programme de simulation en Pascal, un langage compilé. Cette fois, j’ai pu exécuter la simulation de 80 années en seulement 70 minutes. J’ai obtenu les mêmes résultats. Aujourd’hui, SuperMemo permet encore d’exécuter des simulations similaires. La même procédure ne prend qu’une ou deux secondes.

Figure : SuperMemo permet de simuler le déroulement de l’apprentissage sur 15 ans, en utilisant des données réelles collectées lors des répétitions.

Certains des résultats de cette simulation restent valables aujourd’hui. Je présente ci-dessous quelques-unes des conclusions originales. Certaines ont pu être révisées en 1990 ou en 1994.

La courbe d’apprentissage est presque linéaire

La courbe d’apprentissage obtenue à partir du modèle, à l’exception de la période initiale, est presque linéaire.

Figure : Courbe d’apprentissage pour un matériel générique, avec un indice d’oubli égal à 10 %, et un temps de travail quotidien d’une minute.

Les nouveaux éléments occupent 5 % du temps

Dans un processus à long terme, pour un indice d’oubli égal à 10 %, et pour un temps de travail quotidien fixe, le temps moyen consacré à mémoriser de nouveaux éléments ne représente que 5 % du temps total consacré aux répétitions. Cette valeur est presque indépendante de la taille du matériel d’apprentissage.

Vitesse d’apprentissage

Selon la simulation, le nombre d’éléments mémorisés au fil des années consécutives, en travaillant une minute par jour, peut être approximé par l’équation suivante :

NouveauxÉléments=aar*(3*e ^-0.3*année+1)

où :

• NouveauxÉléments – éléments mémorisés au fil des années consécutives, en travaillant une minute par jour,
• année – numéro ordinal de l’année,
• aar – taux d’acquisition asymptotique, c’est-à-dire le taux d’apprentissage minimum atteint après de nombreuses années de répétitions (généralement environ 200 éléments/an/min)

Dans un processus à long terme, pour un indice d’oubli égal à 10 %, le taux moyen d’apprentissage pour un matériel générique peut être approximé à 200-300 éléments/an/min, c’est-à-dire qu’une minute d’apprentissage par jour permet d’acquérir 200 à 300 éléments par an. Les utilisateurs de SuperMemo rapportent généralement un taux d’apprentissage moyen de 50 à 2000 éléments/an/min.

Charge de travail

Pour un matériel générique et un indice d’oubli d’environ 10 %, la fonction du temps quotidien requis pour les répétitions par élément peut être approximativement décrite par la formule :

temps=1/500*année ^-1.5+1/30000

où :

• temps – temps quotidien moyen consacré aux répétitions par élément, pour une année donnée (en minutes),
• année – année du processus.

Comme le temps nécessaire aux répétitions d’un élément unique est presque indépendant de la taille totale du matériel appris, la formule ci-dessus peut être utilisée pour approximer la charge de travail pour un matériel d’apprentissage de n’importe quelle taille. Par exemple, la charge de travail totale pour une collection de 3000 éléments, la première année, sera de 3000/500*1+3000/30000=6,1 (min/jour).

L’indice d’oubli optimal

Figure : Charge de travail, en minutes par jour, pour un matériel générique de 3000 éléments, avec un indice d’oubli égal à 10 %.

Le taux global d’acquisition des connaissances le plus élevé est obtenu pour un indice d’oubli d’environ 20 à 30 %. Cela résulte d’un compromis entre la réduction de la charge de répétition et l’augmentation de la charge de réapprentissage lorsque l’indice d’oubli progresse vers le haut. En d’autres termes, des valeurs élevées de l’indice d’oubli entraînent des intervalles plus longs, mais le gain est compensé par une charge de travail supplémentaire provenant d’un plus grand nombre d’éléments oubliés qui doivent être réappris.

Pour un indice d’oubli supérieur à 20 %, l’effet positif des intervalles longs sur la mémoire, résultant de l’effet d’espacement, est compensé par le nombre croissant d’éléments oubliés.

Figure : Dépendance du taux d’acquisition des connaissances par rapport à l’indice d’oubli.

Lorsque l’indice d’oubli descend sous 5 %, la charge de répétition augmente rapidement (voir la figure ci-dessus). La valeur recommandée de l’indice d’oubli dans la pratique de l’apprentissage est de 6 à 14 %.

Figure : Compromis entre la rétention des connaissances ( indice d’oubli) et la charge de travail (nombre de répétitions d’un élément moyen sur 10 000 jours).

Dans les années suivantes, il s’est avéré que la valeur optimale de l’ indice d’oubli différait selon les outils utilisés (par exemple l’ algorithme SM-17).

Capacité de la mémoire

La capacité maximale du cerveau humain, sur toute une vie, à acquérir de nouvelles connaissances au moyen de procédures d’apprentissage fondées sur le modèle discuté, peut être estimée à pas plus de quelques millions d’éléments. Comme personne n’est susceptible de consacrer toute sa vie à l’apprentissage, je doute de jamais voir quelqu’un avec un million d’éléments en mémoire.

1987 : SuperMemo 1.0 pour DOS

SuperMemo 1.0 pour DOS : jour après jour (1987)

Le fichier historique de SuperMemo affirme que «  Wozniak a écrit son premier SuperMemo en 16 soirées ». La réalité était légèrement plus complexe, et j’ai pensé la décrire plus en détail à l’aide des notes du jour.

Je ne parviens pas à comprendre ce que je voulais dire en écrivant, le 3 juillet 1987, que «  j’ai une idée de programme révolutionnaire organisant mon travail et mes expériences scientifiques SMTests » (SMTests désignait SuperMemo sur papier). Le passage du papier à l’ordinateur semble une étape évidente. Il a dû exister un obstacle mental sur le chemin qui exigeait de « penser hors des sentiers battus ». Malheureusement, je n’en ai pas noté les détails. Aujourd’hui, cela n’a d’importance que dans la mesure où cela illustre à quel point une idée apparemment évidente peut mettre un temps affreusement long à s’infiltrer dans l’esprit.

Le 8 septembre 1987, mon premier PC est arrivé d’Allemagne (Amstrad PC 1512). Mon enthousiasme était sans égal ! Je ne pouvais pas dormir. J’ai travaillé toute la nuit. Le premier programme que j’avais prévu d’écrire devait servir aux approximations mathématiques. SuperMemo arrivait en second dans la liste.

Figure : Amstrad PC-1512 DD. Ma version ne comportait qu’un seul lecteur de disquettes. Le système d’exploitation MS-DOS devait être chargé depuis une disquette, Turbo Pascal 3.0 depuis une autre, et SuperMemo depuis encore une autre. Le temps que j’obtienne mon premier disque dur en 1991, ma collection d’anglais était répartie en morceaux de 3000 éléments sur 13 disquettes. J’en avais bien d’autres pour les autres domaines de connaissance. Le 21 janvier 1997, SuperMemo World a retrouvé la trace de ce PC original et l’a racheté à son propriétaire : Jarek Kantecki. Le PC a fonctionné parfaitement pendant toute une décennie. Il est aujourd’hui enseveli quelque part dans les archives poussiéreuses de l’entreprise. Peut-être publierons-nous un jour sa photo. L’image présentée provient de Wikipedia

Le 16 octobre 1987, vendredi, j’ai écrit en 12 heures mon premier SuperMemo en GW-Basic (719 minutes de programmation non-stop). Il était lent comme un escargot et bogué. Je ne l’aimais pas beaucoup. Je n’ai pas commencé à apprendre avec. Cela pouvait-il être la fin de SuperMemo ? Un mauvais choix de langage de programmation ? Les journées chargées à l’école m’occupaient avec un million de choses sans importance. Effet typique de l’école : n’apprendre rien de tout. Aucun temps pour la créativité ni pour son propre apprentissage. Heureusement, j’utilisais tout le temps SuperMemo sur papier. L’idée de SuperMemo ne pouvait pas mourir. Elle devait tôt ou tard être automatisée.

Le 14 novembre 1987, samedi, SuperMemo sur papier a obtenu son premier utilisateur : Mike Kubiak. Il était très enthousiaste. Le feu continuait à brûler. Le 18 novembre, j’ai découvert Turbo Pascal. Il ne fonctionnait pas sur mon ordinateur. À cette époque, si vous aviez la mauvaise carte graphique, vous pouviez galérer. Au lieu d’une carte Hercules, j’avais une carte CGA monochrome en mode texte (noir et blanc). J’ai réussi à résoudre le problème en modifiant les programmes dans l’éditeur de texte RPED plutôt que dans l’environnement Turbo Pascal. Plus tard, j’ai obtenu la bonne version pour ma carte d’affichage. Fait amusant, les anciennes versions de SuperMemo apparaissent en couleurs. Je les programmais en nuances de gris et n’ai jamais su à quoi elles ressemblaient réellement en mode couleur.

Le 21 novembre 1987 fut une journée importante. C’était un samedi. Les jours sans école sont des jours de créativité. J’espérais me lever à 9h, mais je me suis réveillé avec 72 minutes de retard. C’est mauvais pour le plan, mais c’est généralement bon pour le cerveau et les performances. J’ai commencé la journée par SuperMemo sur papier (révision de l’anglais, de la biologie humaine, de l’informatique, etc.). Plus tard dans la journée, j’ai lu le manuel de mon Amstrad PC, appris des choses sur Pascal et Prolog, réfléchi un moment à la manière dont le cortex humain pourrait fonctionner, fait un peu d’exercice, et, tard dans la soirée, dans un état d’esprit légèrement fatigué, en une pensée après coup, j’ai décidé d’écrire SuperMemo pour DOS. Ce serait ma deuxième tentative. Cette fois cependant, j’ai choisi Turbo Pascal 3.0, et je n’ai jamais regretté ce choix. Aujourd’hui encore, conséquence directe de ce choix, le code de SuperMemo 17 est écrit en Pascal (Delphi).

Pour mémoire, le nom SuperMemo a été proposé bien plus tard. À l’époque, j’appelais mon programme : SMTOP, pour Super-Memorization Test Optimization Program. En 1988, Tomasz Kuehn a insisté pour l’appeler CALOM, pour Computer-Aided Learning Optimization Method.

Le 22 novembre 1987 fut la copie fidèle du 21 novembre. J’en ai conclu que je savais comment fonctionnait le cortex et qu’un jour, il serait bien de construire un ordinateur suivant des principes similaires (voir les travaux de Jeff Hawkins). Le fait que je sois retourné à la programmation de SuperMemo tard dans la soirée, c’est-à-dire à un très mauvais moment pour le travail créatif, semble indiquer que la passion ne s’était pas encore vraiment enflammée.

Le 23 novembre 1987 fut identique. Je ne sais plus pourquoi je n’avais aucune obligation scolaire ce lundi, mais cela a peut-être sauvé SuperMemo. Le 24 novembre 1987, l’excitation a pris le dessus et j’ai travaillé 8 heures d’affilée (à nouveau le soir). Le programme disposait désormais d’un menu simple et pouvait ajouter de nouveaux éléments à la base de données.

Le 25 novembre 1987 fut une journée perdue : je devais aller à l’école, j’étais fatigué et somnolent. Nous avions des cours affreusement ennuyeux d’architecture informatique, probablement une décennie derrière l’état de l’art occidental.

Le 26 novembre était de nouveau un jour libre, et j’ai pu à nouveau rattraper le travail sur SuperMemo. Le programme a grossi jusqu’à atteindre 15 400 octets. J’en ai conclu que le programme pourrait être «  très utille » (sic !).

Le 27 novembre, j’ai ajouté 3 heures de travail supplémentaires après l’école.

Le 28 novembre était un samedi, et j’ai pu ajouter 12 heures enthousiastes de programmation non-stop. SuperMemo semblait désormais presque prêt à l’emploi.

Le 29 novembre, dimanche, j’ai voté pour les réformes économiques et la démocratisation en Pologne. Le soir, je n’ai pas fait beaucoup de progrès. Je devais préparer un essai pour mon cours d’anglais. L’essai décrivait le jour où j’avais expérimenté l’alcool, un jour de 1982. J’étais abstinent, mais en tant que biologiste, j’ai conclu que je devais savoir comment l’alcool affecte l’esprit.

Le 30 novembre fut perdu à l’école, mais nous avons eu une agréable marche jusqu’à la maison avec Biedalak. Nous avons eu une longue conversation en anglais sur notre avenir. Cet avenir devait principalement concerner la science, probablement aux États-Unis.

Du 1er au 4 décembre, j’ai de nouveau perdu mon temps à l’école. Aucun temps pour programmer. Lors d’une conversation avec un professeur russe, j’ai réalisé que j’avais complètement oublié le russe en seulement 6 ans. J’en étais autrefois fièrement fluide ! J’ai dû canaliser mon temps de programmation vers un logiciel ennuyeux de conception de circuits électroniques. J’ai dû le faire pour valider un cours d’électronique. J’avais un accord avec l’enseignant selon lequel je n’assisterais pas au cours, à condition d’écrire ce logiciel. Je n’ai rien appris, et à ce jour je regrette encore ce temps perdu. Si j’avais été libre, j’aurais pu investir cette énergie dans SuperMemo.

Le 5 décembre était un samedi. Libre de l’école. Hourra ! Cependant, j’ai dû commencer par perdre 4 heures sur une « procédure de code de touche ». À cette époque, même décoder la touche pressée pouvait être un défi. Puis une heure supplémentaire perdue à modifier certains attributs d’écran. En plus de cela, j’ai ajouté 6 heures pour écrire un « éditeur d’éléments ». Ainsi, je pouvais modifier commodément les éléments dans SuperMemo. Les choses que l’on tient aujourd’hui pour acquises sans effort : curseur gauche, curseur droit, suppression, haut, nouvelle ligne, etc., nécessitaient à l’époque une journée entière de programmation.

Le 6 décembre fut un charmant dimanche. J’ai passé 7 heures à déboguer SuperMemo, à ajouter le « drill final », etc. L’excitation ne cessait de croître. Dans une semaine, je pourrais commencer à utiliser mon nouveau logiciel révolutionnaire d’apprentissage rapide.

Le lundi 7 décembre, après l’école, j’ai ajouté une procédure de suppression d’éléments.

Le 8 décembre, tandis que Reagan et Gorbatchev signaient leur accord nucléaire, j’ai ajouté une procédure de recherche d’éléments et d’affichage de certaines statistiques sur les éléments. SuperMemo « gonfla » jusqu’à 43 800 octets.

Le 9 décembre fut gâché par l’école et par la programmation pour le cours d’électronique.

Le 10 décembre, j’ai célébré des coupures de courant à l’école. Au lieu de cours ennuyeux, j’ai pu faire un peu de programmation supplémentaire.

Le 11 décembre, nous avons eu un magnifique cours avec l’un des plus grands cerveaux de l’école : le Pr Jan Węglarz. Il insistait sur le fait qu’il pouvait accomplir davantage en Pologne qu’à l’étranger. C’était un message puissant. Cependant, en 2018, sa fiche Wikipedia indique que sa découverte de la méthode à deux phases a été ignorée, puis reproduite plus tard à l’Ouest, parce qu’il avait choisi de publier en polonais. Węglarz a effectivement créé une équipe formidable, parmi les meilleurs cerveaux en recherche opérationnelle de Poznań. Si je ne m’étais pas tourné vers SuperMemo, je serais certainement venu, chapeau à la main, chercher une opportunité d’emploi. Le soir, j’ai ajouté une procédure pour vérifier le nombre d’éléments à réviser chaque jour (la « charge de travail » d’aujourd’hui).

Le 12 décembre était un samedi. J’ai enrichi SuperMemo d’un éditeur de file d’attente en suspens, et il semblait prêt à commencer l’apprentissage, cependant…

… le 13 décembre, j’ai été frappé par une bombe : «  mémoire insuffisante ». J’ai réussi, en optimisant le code, à résoudre le problème. La dernière option qu’il me fallait ajouter était de faire lire la date par le programme. Oui. Ce fut une astuce d’importance majeure. Sans elle, j’aurais dû saisir manuellement la date courante à chaque démarrage du programme. Finalement, tant attendu, dans l’après-midi du 13 décembre 1987, j’ai pu ajouter mes premiers éléments à ma collection de biologie humaine : des questions sur le système nerveux autonome. Le 23 décembre 1987, mes bases de données combinées, papier et informatique, comptaient 3795 questions sur la biologie humaine (dont presque 10 % déjà dans SuperMemo). Malheureusement, j’ai dû supprimer les historiques complets de répétition dans SuperMemo ce jour-là. Il n’y avait pas assez d’espace sur les disquettes de 360 Ko. La recherche sur la répétition espacée devrait attendre encore quelques années.

Figure : SuperMemo 1.0 pour DOS (1987).

Algorithme SM-2

Voici la description de l’algorithme utilisé dans SuperMemo 1.0. Cette description est tirée de mon mémoire de master, rédigé 2 ans et demi plus tard (1990). SuperMemo 1.0 fut rapidement remplacé par un SuperMemo 2.0 plus soigné, que je pouvais offrir à mes amis de l’université. Il y eut des mises à jour mineures de l’algorithme, qui fut nommé algorithme SM-2, d’après la version de SuperMemo. Cela signifie qu’il n’y a jamais eu d’algorithme SM-1.

J’ai maîtrisé 1000 questions de biologie dans les 8 premiers mois. Mieux encore, j’ai mémorisé exactement 10 000 éléments de paires de mots anglais lors des 365 premiers jours, en travaillant 40 min/jour. Ce chiffre a servi de référence dans la publicité de SuperMemo lors de ses premiers jours commerciaux. Même aujourd’hui, 40 minutes restent l’investissement quotidien recommandé pour maîtriser l’ Advanced English en 4 ans (plus de 40 000 éléments).

À ce jour, l’ algorithme SM-2 demeure populaire et est encore utilisé par des applications telles qu’Anki, Mnemosyne, et bien d’autres.

Avertissement d’archive : Pourquoi utiliser des archives littérales ?

3.2. Application d’un ordinateur pour améliorer les résultats obtenus avec la méthode SuperMemo

J’ai écrit le premier programme SuperMemo en décembre 1987 (Turbo Pascal 3.0, IBM PC). Il visait à améliorer la méthode SuperMemo de deux façons fondamentales :

• appliquer les procédures d’optimisation aux éléments les plus petits possible (dans le SuperMemo sur papier, les éléments étaient regroupés en pages),
• différencier les éléments en fonction de leur difficulté respective.

Ayant observé que les intervalles inter-répétitions successifs augmentaient selon un facteur approximativement constant (par exemple deux, dans le cas de l’algorithme SM-0 pour le vocabulaire anglais), j’ai décidé d’appliquer la formule suivante pour calculer les intervalles inter-répétitions :

I(1):=1

I(2):=6

pour n>2 I(n):=I(n-1)*EF

où :

• I(n) – intervalle inter-répétitions après la n-ième répétition (en jours)
• EF – facteur de facilité reflétant la facilité à mémoriser et retenir un élément donné en mémoire (appelé plus tard le facteur E).

Les facteurs E pouvaient varier entre 1,1 pour les éléments les plus difficiles et 2,5 pour les plus faciles. Au moment de l’introduction d’un élément dans une base de données SuperMemo, son facteur E était supposé égal à 2,5. Au cours des répétitions, cette valeur était progressivement diminuée en cas de problèmes de rappel. Ainsi, plus un élément posait de problèmes au rappel, plus la diminution de son facteur E était importante.

Peu après la mise en œuvre du premier programme SuperMemo, j’ai remarqué que les facteurs E ne devaient pas descendre en dessous de la valeur de 1,3. Les éléments dont le facteur E était inférieur à 1,3 étaient répétés de façon exaspérément fréquente et semblaient toujours présenter des défauts inhérents dans leur formulation (généralement, ils ne respectaient pas le principe d’information minimale). Ainsi, le fait d’empêcher les facteurs E de descendre sous 1,3 a considérablement amélioré le rendement du processus et fourni un indicateur des éléments à reformuler. La formule utilisée pour calculer les nouveaux facteurs E des éléments a été construite de manière heuristique et n’a guère changé au cours des 3,5 années suivantes d’utilisation de la méthode SuperMemo informatisée.

Pour calculer la nouvelle valeur d’un facteur E, l’étudiant doit évaluer la qualité de sa réponse à la question posée lors de la répétition d’un élément (mes programmes SuperMemo utilisent une échelle de notation de 0 à 5, plage déterminée par l’ergonomie de l’utilisation du pavé numérique). La forme générale de la formule utilisée était :

EF’:=f(EF,q)

où :

• EF’ – nouvelle valeur du facteur E
• EF – ancienne valeur du facteur E
• q – qualité de la réponse
• f – fonction utilisée dans le calcul de EF’.

La fonction f avait initialement un caractère multiplicatif ; dans les versions ultérieures du programme SuperMemo, lorsque l’interprétation des facteurs E a considérablement changé, elle a été convertie en une fonction additive sans altération significative des relations entre EF’, EF et q. Pour simplifier la suite de l’exposé, seule la fonction f dans sa forme la plus récente est prise en compte :

EF’:=EF-0.8+0.28*q-0.02*q*q

qui est une forme réduite de :

EF’:=EF+(0.1-(5-q)*(0.08+(5-q)*0.02))

Notez que pour q=4, le facteur E ne change pas.

Considérons maintenant la forme finale de l’algorithme SM-2, qui, avec quelques modifications mineures, a été utilisée dans les programmes SuperMemo, versions 1.0 à 3.0, entre le 13 décembre 1987 et le 9 mars 1989 (le nom SM-2 a été choisi parce que SuperMemo 2.0 était de loin la version la plus populaire mettant en œuvre cet algorithme).

Algorithme SM-2 utilisé dans la variante informatique de la méthode SuperMemo, impliquant le calcul des facteurs de facilité pour chaque élément :

1. Découpez les connaissances en éléments les plus petits possibles.
2. Associez à tous les éléments un facteur E égal à 2,5.
3. Répétez les éléments en utilisant les intervalles suivants :I(1):=1I(2):=6pour n>2 : I(n):=I(n-1)*EFoù :
   • I(n) – intervalle inter-répétition après la n-ième répétition (en jours),
   • EF – facteur E d’un élément donné
   Si l’intervalle est une fraction, arrondissez-le à l’entier supérieur.
4. Après chaque répétition, évaluez la qualité de la réponse sur une échelle de 0 à 5 :5 – réponse parfaite4 – réponse correcte après hésitation3 – réponse correcte rappelée avec grande difficulté2 – réponse incorrecte ; la réponse correcte semblait facile à retrouver1 – réponse incorrecte ; la réponse correcte, une fois révélée, s’est rappelée0 – trou de mémoire complet.
5. Après chaque répétition, modifiez le facteur E de l’élément récemment répété selon la formule :EF’:=EF+(0.1-(5-q)*(0.08+(5-q)*0.02))où :
   • EF’ – nouvelle valeur du facteur E,
   • EF – ancienne valeur du facteur E,
   • q – qualité de la réponse sur l’échelle de 0 à 5.
   Si EF est inférieur à 1,3, fixez EF à 1,3.
6. Si la qualité de la réponse était inférieure à 3, recommencez les répétitions de l’élément depuis le début sans modifier le facteur E (c’est-à-dire utilisez les intervalles I(1), I(2), etc. comme si l’élément venait d’être mémorisé).
7. Après chaque session de répétition d’une journée donnée, répétez à nouveau tous les éléments ayant obtenu une note inférieure à quatre. Continuez les répétitions jusqu’à ce que tous ces éléments obtiennent au moins quatre.

La procédure d’optimisation utilisée pour déterminer les facteurs E s’est révélée très efficace. Dans les programmes SuperMemo, on trouve toujours une option permettant d’afficher la distribution des facteurs E (appelée plus tard la distribution E). La forme de la distribution E dans une base de données donnée s’établissait approximativement en quelques mois à partir du début des répétitions. Cela signifie que les facteurs E ne changeaient plus de manière significative après cette période, et l’on peut raisonnablement supposer qu’ils correspondent à peu près au facteur réel selon lequel les intervalles inter-répétition devraient croître au fil des répétitions successives.

Au cours de la première année d’utilisation de l’algorithme SM-2 (apprentissage du vocabulaire anglais), j’ai mémorisé 10 255 éléments. Le temps nécessaire à la création de la base de données et aux répétitions s’élevait à 41 minutes par jour. Cela correspond à un taux d’acquisition de 270 éléments/an/minute. La rétention globale était de 89,3 %, mais après exclusion des éléments récemment mémorisés (intervalles inférieurs à 3 semaines), qui ne présentent pas encore de facteurs E correctement établis, la rétention atteignait 92 %. En comparant les algorithmes SM-0 et SM-2, il faut tenir compte du fait que, dans le premier cas, la rétention était artificiellement élevée en raison des indices offerts à l’étudiant lors de la répétition des éléments d’une page donnée. Les éléments précédant celui en question pouvaient facilement suggérer la bonne réponse.L’algorithme SM-2, bien que peu impressionnant en termes de comparaisons quantitatives, a donc marqué la deuxième amélioration majeure de la méthode SuperMemo après l’introduction du concept d’intervalles optimaux en 1985. La séparation des éléments jusque-là regroupés en pages et l’introduction des facteurs E constituaient les deux composantes majeures de cet algorithme amélioré. Construit par essais et erreurs, l’algorithme SM-2 a démontré en pratique la justesse de presque toutes les hypothèses fondamentales qui avaient conduit à sa conception.

1988 : Les deux composantes de la mémoire

Le modèle à deux composantes de la mémoire à long terme est au fondement de SuperMemo, et il est exprimé explicitement dans l’ algorithme SM-17. Il distingue le degré de stabilité d’une connaissance dans le stockage à long terme, et la facilité avec laquelle on peut la récupérer. C’est un fait essentiel de la théorie de l’apprentissage, mais peu connu : on peut être fluide dans un domaine tout en s’en souvenant mal.

La fluidité est un mauvais indicateur de l’apprentissage à long terme

Les composantes de la mémoire à long terme

J’ai décrit pour la première fois l’idée des deux composantes de la mémoire dans un article rédigé pour mon cours de simulations informatiques, le 9 janvier 1988. Dans ce même article, j’ai conclu que des circuits différents devaient intervenir dans l’apprentissage déclaratif et l’apprentissage procédural.

Si l’on y réfléchit un instant, l’idée des deux composantes devrait paraître assez évidente. Si l’on prend deux éléments juste après une révision, l’un avec un intervalle optimal court et l’autre avec un intervalle optimal long, leur état mnésique doit forcément différer. Les deux peuvent être rappelés parfaitement ( récupérabilité maximale), mais ils doivent aussi différer par la durée pendant laquelle ils peuvent se maintenir en mémoire ( stabilité différente). J’ai été surpris de ne trouver aucune littérature sur le sujet. Cependant, si la littérature ne mentionne pas l’existence de l’ intervalle optimal en répétition espacée, cette conclusion en apparence évidente se cache peut-être derrière une autre idée tout aussi apparemment évidente : la progression de l’allongement des intervalles en révision optimalement espacée. C’est une jolie illustration de la façon dont le progrès humain est incrémental et désespérément lent. Nous sommes notoirement mauvais pour penser hors des sentiers battus. L’endroit le plus sombre est sous le chandelier. Cette faiblesse peut être surmontée par l’explosion de la communication sur le web. Je prône moins de relecture par les pairs et davantage d’hypothèses audacieuses. Je pense à un exemple fantastique tiré de l’ article de Robin Clarke sur la maladie d’Alzheimer. La relecture stricte par les pairs rappelle l’enseignement prussien : dans la quête de la perfection, on perd sa créativité, puis son humanité, et finalement le plaisir de vivre.

Lorsque j’ai présenté mes idées pour la première fois à mon professeur, le Dr Katulski, le 19 février 1988, il n’a pas été particulièrement impressionné, mais il m’a accordé la validation du crédit de simulations informatiques. Fait notable, quelque temps plus tard, Katulski est devenu l’un des premiers utilisateurs de SuperMemo 1.0 pour DOS.

Dans mon mémoire de fin d’études (1990), j’ai ajouté une démonstration légèrement plus formelle de l’existence des deux composantes. Cette partie de mon mémoire est passée inaperçue.

En 1994, J. Kowalski a écrit dans Enter, en Pologne :

Nous en sommes arrivés au point où l’interprétation évolutionniste de la mémoire indique qu’elle fonctionne selon les principes de l’allongement des intervalles et de l’ effet d’espacement. Existe-t-il une preuve de ce modèle de la mémoire au-delà de la spéculation évolutionniste ? Dans sa thèse de doctorat, Wozniak a longuement traité des aspects moléculaires de la mémoire et a présenté un modèle hypothétique des changements se produisant dans la synapse au cours du processus d’apprentissage. L’élément novateur présenté dans cette thèse était la distinction entre la stabilité et la récupérabilité des traces mnésiques. Cela ne pouvait pas servir à valider SuperMemo, pour la simple raison que c’était SuperMemo lui-même qui avait jeté les bases de l’hypothèse. Cependant, un nombre croissant de preuves moléculaires semble coïncider avec le modèle stabilité-récupérabilité, apportant en même temps un soutien à la justesse des hypothèses qui ont conduit à SuperMemo. En termes simples, la récupérabilité est une propriété de la mémoire qui déterrmine le niveau d’efficacité avec lequel les synapses peuvent s’activer en réponse à un stimulus, déclenchant ainsi l’action apprise. Plus la récupérabilité est faible, moins il est probable que l’on se souvienne de la bonne réponse à une question. La stabilité, en revanche, reflète l’historique des répétitions antérieures et déterrmine la durée pendant laquelle les traces mnésiques peuvent être maintenues. Plus la stabilité de la mémoire est élevée, plus il faudra de temps pour que la récupérabilité retombe à zéro, c’est-à-dire au niveau où les souvenirs sont définitivement perdus. Selon Wozniak, lorsque nous apprenons quelque chose pour la première fois, nous connaissons une légère augmentation de la stabilité et de la récupérabilité dans les synapses impliquées dans le codage de l’association stimulus-réponse en question. Avec le temps, la récupérabilité décline rapidement ; c’est le phénomène équivalent à l’oubli. Dans le même temps, la stabilité de la mémoire reste à peu près au même niveau. Cependant, si nous répétons l’association avant que la récupérabilité ne retombe à zéro, la récupérabilité retrouve sa valeur initiale, tandis que la stabilité augmente jusqu’à un niveau nouveau, sensiblement plus élevé qu’à l’apprentissage initial. Avant que la répétition suivante n’ait lieu, grâce à la stabilité accrue, la récupérabilité diminue à un rythme plus lent, et l’intervalle inter-répétition peut être beaucoup plus long avant que l’oubli ne survienne. Deux autres propriétés importantes de la mémoire doivent également être notées : (1) les répétitions n’ont pas le pouvoir d’augmenter la stabilité lorsque la récupérabilité est élevée (effet d’espacement), (2) lors de l’oubli, la stabilité décline rapidement

Nous avons publié nos idées avec les Drs Janusz Murakowski et Edward Gorzelańczyk en 1995. Murakowski a perfectionné la démonstration mathématique. Gorzelańczyk a étoffé le modèle moléculaire. Nous n’avons guère reçu d’enthousiasme ni de retours de la part de la communauté scientifique. L’idée des deux composantes de la mémoire est comme le vin : plus elle vieillit, meilleure elle devient. Nous continuons à nous demander quand elle recevra une reconnaissance plus large. Après tout, nous ne vivons pas à l’époque de Mendel, où l’on pouvait laisser un joyau enfoui dans quelque archive obscure. Il existe des millions d’utilisateurs de la répétition espacée, et même si seulement 0,1 % d’entre eux s’intéressaient à la théorie, ils entendraient parler de nos deux composantes. Aujourd’hui, même le tout dernier algorithme de SuperMemo repose sur le modèle à deux composantes, et il fonctionne à merveille. Ironiquement, les utilisateurs ont tendance à se ruer vers des solutions plus simples où toute la mécanique de la mémoire humaine reste cachée. Même sur supermemo.com, nous veillons à ne pas effrayer les clients avec un excès de chiffres à l’écran.

Le concept des deux composantes de la mémoire présente des parallèles avec des recherches antérieures, notamment celles de Bjork.

Dans les années 1940, des chercheurs ont étudié la force de l’habitude et la force de la réponse comme des composantes indépendantes du comportement chez le rat. Ces concepts ont ensuite été reformulés dans la théorie de la désuétude de Bjork. Herbert Simon semble avoir perçu la nécessité d’une variable de stabilité de la mémoire dans son article de 1966. En 1969, Robert Bjork a formulé le paradoxe de la force : une relation inverse entre la probabilité de rappel et l’effet mnésique d’une révision. Notez que ceci n’est qu’une reformulation de l’ effet d’espacement en termes du modèle à deux composantes, ce qui n’est qu’à un petit pas de la formulation de la distinction entre les variables de la mémoire. Cela a conduit à la nouvelle théorie de la désuétude de Bjork (1992), qui distinguerait la force de stockage et la force de récupération. Ce sont des équivalents proches de la récupérabilité et de la stabilité, avec une interprétation légèrement différente des mécanismes sous-jacents à cette distinction. Le plus frappant est que Bjork croit que lorsque la récupérabilité retombe à zéro, les souvenirs stables sont malgré tout conservés (dans notre modèle, la stabilité devient indéterminée). Au niveau cellulaire, Bjork a peut-être raison, au moins pour un temps, mais la pratique de SuperMemo démontre la puissance de l’oubli complet, alors que, du point de vue neuronal, conserver des souvenirs en désuétude serait extrêmement inefficace, quelle que soit leur stabilité. Enfin, Bjork définit la force de stockage en termes de connectivité, ce qui se rapproche fort de ce que je pense se produire chez les bons étudiants : la cohérence affecte la stabilité.

Pourquoi les deux composantes de la mémoire n’entrent-elles pas encore dans la recherche grand public ? J’affirme que si l’esprit humain a tendance à être myope, ce qui est le cas pour nous tous par nature, l’esprit de la science peut être véritablement étouffé par des obligations épuisantes, la course à la publication, les luttes pour les subventions, les hiérarchies, les conflits d’intérêts, la relecture par les pairs, les obligations d’enseignement, voire le code de conduite. Les chercheurs en mémoire ont tendance à vivre dans une dimension unique, celle de la « force de la mémoire ». Dans cette dimension, ils ne peuvent véritablement appréhender la véritable dynamique des processus moléculaires qu’il faudrait étudier pour résoudre le problème. Ironiquement, les progrès pourraient venir de ceux qui travaillent en intelligence artificielle ou sur les réseaux de neurones. Les esprits prodigieux de Demis Hassabis ou d’Andreas Knoblauch aboutissent à des idées jumelles par un raisonnement, des modèles et des simulations indépendants. Les biologistes devront apprendre à écouter le langage des mathématiques ou de l’informatique.

Le modèle à deux composantes dans l’algorithme SM-17

Le modèle à deux composantes de la mémoire à long terme est à la base de l’ algorithme SM-17. Le succès de l’algorithme SM-17 constitue la preuve pratique ultime de la validité du modèle.

Un graphique des changements réels des valeurs des deux composantes de la mémoire fournit une visualisation conceptuelle de l’évolution de l’état de la mémoire :

Figure : Changements de l’état de la mémoire au fil du temps pour un élément pris en exemple. L’axe horizontal représente le temps couvrant l’ensemble de l’historique des répétitions. Le panneau supérieur montre la récupérabilité (puissance dixième, R^10, pour faciliter l’analyse). La grille de récupérabilité en gris est étiquetée par R=99 %, R=98 %, etc. Le panneau central affiche les intervalles optimaux en bleu marine. Les dates de répétition sont marquées par des lignes verticales bleues et étiquetées en bleu turquoise. La fin de l’ intervalle optimal, où la récupérabilité (R) franchit la ligne des 90 %, est marquée par des lignes verticales rouges (uniquement si les intervalles sont plus longs que les intervalles optimaux). Le panneau inférieur visualise la stabilité (présentée sous forme de ln(S)/ln(jours) pour faciliter l’analyse). Le graphique montre que la récupérabilité chute rapidement (de manière exponentielle) après les premières répétitions, lorsque la stabilité est faible ; cependant, elle ne chute que de 100 % à 94 % en 10 longues années après la 7e révision. Toutes les valeurs sont dérivées d’un historique de répétitions réel et du modèle à trois composantes de la mémoire.

En raison du fait que l’application de SuperMemo dans la vie réelle exige de traiter des contenus d’apprentissage de difficultés variées, la troisième variable impliquée dans le modèle est la difficulté de l’élément (D). Certaines implications de la difficulté des éléments ont également été abordées dans l’article ci-dessus, en particulier l’impact des souvenirs composites dont les sous-composantes ont des stabilités mnésiques (S) différentes.

Aux fins du nouvel algorithme, nous avons défini les trois composantes de la mémoire comme suit :

• La stabilité de la mémoire (S) est définie comme l’intervalle inter-répétition qui produit une probabilité de rappel moyenne de 0,9 au moment de la révision
• La récupérabilité de la mémoire (R) est définie comme la probabilité de rappel attendue à tout moment, en supposant un oubli exponentiel négatif d’un contenu d’apprentissage homogène, avec une constante de décroissance déterminée par la stabilité de la mémoire (S)
• La difficulté de l’élément (D) est définie comme l’augmentation maximale possible de la stabilité de la mémoire (S) lors d’une révision, ramenée linéairement à l’intervalle 0..1, où 0 correspond aux éléments les plus faciles possibles et 1 correspond à la difficulté la plus élevée envisagée dans SuperMemo (le seuil de coupure se situe actuellement à une augmentation de stabilité 6 fois inférieure au maximum possible)

Démonstration

Voici la démonstration originale tirée de mon mémoire de fin d’études. Pour une meilleure présentation de cette démonstration, voir la démonstration de Murakowski.

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

10.4.2. Deux variables de la mémoire : stabilité et récupérabilité

Une conclusion importante découle directement de la théorie de SuperMemo : il existe deux variables indépendantes, et non une seule comme on le croit communément, qui décrivent la conductivité d’une synapse et la mémoire en général. Pour illustrer ce point, reprenons le modèle de la calpaïne de la mémoire synaptique. Il est évident, à partir de ce modèle, que ses auteurs supposent qu’une seule variable indépendante suffit à décrire la conductivité d’une synapse. L’afflux de calcium, l’activité de la calpaïne, la dégradation de la fodrine et le nombre de récepteurs au glutamate sont autant d’exemples d’une telle variable. Notez que tous les paramètres mentionnés sont dépendants, c’est-à-dire qu’en connaissant l’un d’eux, on pourrait calculer tous les autres ; cela n’est évidemment possible que si l’on parvenait à construire les formules pertinentes. Cette dépendance des paramètres est une conséquence directe des liens causaux qui les relient tous entre eux.

Cependant, le processus d’apprentissage optimal exige exactement deux variables indépendantes pour décrire l’état d’une synapse à un instant donné :

• Une variable qui joue le rôle d’une horloge mesurant le temps entre les répétitions. Voici quelques paramètres pouvant être utilisés à cette fin :
  • T _e – temps écoulé depuis la dernière répétition (il appartient à l’intervalle <0, intervalle-optimal>),
  • T _l – temps qui doit s’écouler avant que la prochaine répétition n’ait lieu (T _l=intervalle-optimal-T _e),
  • P _f – probabilité que la synapse perde la trace mnésique au cours du jour considéré (elle appartient à l’intervalle <0,1>).
  Il est évident que l’on peut concevoir un nombre incalculable de paramètres susceptibles de représenter la variable d’horloge. Tous ces paramètres sont dépendants, c’est-à-dire que l’un d’entre eux suffit à calculer tous les autres.
• Une variable qui mesure la durabilité de la mémoire. Voici quelques paramètres pouvant être utilisés à cette fin :
  • I(n+1) – intervalle optimal à utiliser après la prochaine répétition (I(n+1)=I(n)*C, où C est une constante supérieure à trois),
  • I(n) – intervalle optimal actuel,
  • n – nombre de répétitions précédant le moment considéré, etc.
  Là encore, les paramètres sont dépendants, et un seul d’entre eux suffit à caractériser la durabilité de la mémoire.

Voyons maintenant si les variables ci-dessus sont nécessaires et suffisantes pour caractériser l’état des synapses dans le processus d’apprentissage optimal dans le temps. Pour montrer que les variables sont indépendantes, nous montrerons qu’aucune d’elles ne peut être calculée à partir de l’autre. Notons que le paramètre I(n) reste constant pendant un intervalle inter-répétition donné, tandis que le paramètre T _e varie de zéro à I(n). Cela montre qu’il n’existe aucune fonction f satisfaisant la condition :

T _e=f(I(n))

D’autre part, au moment des répétitions successives, T _e vaut toujours zéro tandis que I(n) a toujours une valeur différente, croissante. Il n’existe donc aucune fonction g satisfaisant la condition :

I(n)=g(T _e)

D’où l’indépendance de I(n) et de T _e.

Pour montrer qu’aucune autre variable n’est nécessaire dans le processus d’apprentissage optimal, notons qu’à tout instant donné nous pouvons calculer tous les moments des répétitions futures à l’aide de l’algorithme suivant :

1. Laisser s’écouler I(n)-T _e jours.
2. Effectuer une répétition.
3. Remettre T _e à zéro et multiplier I(n) par C.
4. Retourner à 1.

Notez que la valeur de C est une constante caractéristique d’une synapse donnée et qu’elle ne change pas, en tant que telle, au cours du processus d’apprentissage. J’utiliserai plus tard le terme récupérabilité pour désigner la première de ces variables, et le terme stabilité pour désigner la seconde. Pour justifier le choix du premier terme, notons que nous avons l’habitude de penser que les souvenirs sont forts après une tâche d’apprentissage, puis s’estompent progressivement jusqu’à devenir irrécupérables. C’est la récupérabilité qui déterrmine le moment où les souvenirs ne sont plus là. Il convient également de noter que la récupérabilité était la variable tacitement considérée comme la seule nécessaire pour décrire la mémoire (comme dans le modèle de la calpaïne). L’invisibilité de la variable de stabilité résultait du fait que les chercheurs concentraient leurs efforts sur une seule tâche d’apprentissage et l’observation des changements consécutifs dans les synapses, alors que l’importance de la stabilité ne peut être mise en évidence que dans le processus de répétition de la même tâche à de nombreuses reprises. Pour conclure cette analyse des variables de la mémoire, posons la question standard que l’on doit se poser lors de l’élaboration de tout modèle biologique. Quel avantage évolutif possible résulte de l’existence de deux variables de la mémoire ?

La récupérabilité et la stabilité sont toutes deux nécessaires pour coder un processus d’apprentissage qui permet aux intervalles inter-répétition successifs de s’allonger sans oubli. On peut facilement démontrer qu’un tel modèle d’apprentissage est le plus favorable au taux de survie d’un individu, si l’on reconnaît que se souvenir sans jamais oublier engorgerait rapidement le système mnésique, qui est fini. Si la mémoire doit être sujette à l’oubli, elle doit disposer d’un moyen de conserver les traces qui semblent importantes pour la survie. La répétition, en tant que facteur de renforcement de la mémoire, constitue un tel moyen. Voyons maintenant quel serait le calendrier le plus adapté pour le processus de répétition. Si un phénomène donné est rencontré pour la n-ième fois, la probabilité qu’il soit rencontré une n+1-ième fois augmente, et un temps de rétention mnésique plus long semble donc avantageux. La fonction exacte décrivant le meilleur processus de répétition dépend de la taille du stockage mnésique, du nombre de phénomènes possibles rencontrés par un individu, et de bien d’autres facteurs. Cependant, l’utilité d’allonger les intervalles nécessaires pour maintenir la mémoire par répétitions est indiscutable, et il en va de même pour la valeur évolutive de la récupérabilité et de la stabilité de la mémoire. On peut imaginer de nombreuses situations qui viennent perturber cette image simple du développement de la mémoire au cours de l’évolution. Par exemple, les événements associés à un stress intense devraient être mieux mémorisés. Ce fait a d’ailleurs été démontré par des recherches sur l’influence des catécholamines sur l’apprentissage. Il serait peut-être possible, en utilisant une stimulation hormonale, d’améliorer les performances d’un étudiant appliquant la méthode SuperMemo.

Résumé intermédiaire

1. L’existence de deux variables indépendantes nécessaires pour décrire le processus d’apprentissage optimal a été postulée. Ces variables ont été nommées récupérabilité et stabilité de la mémoire
2. La récupérabilité de la mémoire reflète le temps écoulé entre les répétitions et indique dans quelle mesure les traces mnésiques peuvent être utilisées avec succès dans le processus de rappel
3. La stabilité de la mémoire reflète l’historique des répétitions au cours du processus d’apprentissage et augmente à chaque stimulation de la synapse. Elle déterrmine la longueur de l’ intervalle inter-répétition optimal

Figure : Mécanisme hypothétique impliqué dans le processus d’apprentissage optimal. (A) Phénomènes moléculaires (B) Changements quantitatifs dans la synapse.

Démonstration par Murakowski

Voici une version améliorée de la démonstration par Murakowski :

Des recherches antérieures ont montré que l’espacement optimal des répétitions dans l’apprentissage par paires associées, compris comme l’espacement nécessitant un nombre minimal de répétitions pour maintenir indéfiniment un niveau constant de rétention des connaissances (par ex. 95 %), peut être exprimé approximativement à l’aide des formules suivantes ( Wozniak et Gorzelańczyk, 1994).

• (1) I ₁=C ₁
• (2) I _i=I _i-1*C ₂

où :

• I _i – intervalle inter-répétition après la i-ième répétition
• C ₁ – longueur du premier intervalle (dépendant de la rétention des connaissances choisie, et généralement égale à plusieurs jours)
• C ₂ – constante qui désigne l’augmentation des intervalles inter-répétition lors des répétitions successives (dépendant de la rétention des connaissances choisie et de la difficulté de l’élément mémorisé)

Les formules ci-dessus ont été établies pour des sujets humains à l’aide de procédures d’optimisation informatique employées pour superviser le processus d’apprentissage autogéré de paires de mots par la technique de rappel actif avec élimination. […]

Comme il sera montré ci-dessous, la force de la mémoire (ou potentialisation synaptique), largement étudiée, ne suffit pas à expliquer le schéma régulier de l’espacement optimal des répétitions : […]

1. Nous voulons déterminer l’ensemble des variables (moléculaires) impliquées dans le stockage des traces mnésiques qui suffirait à expliquer l’espacement optimal des répétitions. Supposons, dans un premier temps, deux corrélats de ces variables dans un apprentissage soumis à l’espacement optimal tel qu’exprimé par les équations (1) et (2) : r – le temps qui reste, à partir du moment présent, jusqu’à la fin de l’intervalle optimal en cours (l’intervalle optimal étant l’intervalle à la fin duquel la rétention retombe au niveau préalablement défini, par ex. 95 %) s – la longueur de l’intervalle optimal en cours.
2. Juste au début de la i-ième répétition, r=0, tandis que s _i> s _i-1>0 ( s _i désigne s juste au début de la i-ième répétition). Cela indique qu’il n’existe aucune fonction g ₁ telle que s=g ₁( r), c’est-à-dire que s ne peut être fonction de r seul.
3. Pendant l’intervalle inter-répétition, r(t ₁)<> r(t ₂) si t ₁<>t ₂ (t désigne le temps et r(t) désigne r au moment t). En revanche, s(t ₁)= s(t ₂) ( s(t) désigne s au moment t). Cela montre qu’il n’existe aucune fonction g ₂ telle que r=g ₂( s), sinon on aurait : r(t ₁)=g ₂( s(t ₁))=g ₂ ( s(t ₂))= r(t ₂), ce qui conduit à une contradiction. r ne peut être fonction de s seul.
4. Dans les étapes 2 et 3, nous avons montré que r et s sont indépendantes, puisqu’il n’existe pas de fonctions g ₁ et g ₂ telles que s=g ₁( r) ou r=g ₂( s). Cela ne signifie évidemment pas qu’il n’existe pas de paramètre x et de fonctions y _s et y _r telles que s=y _s(x) et r=y _r(x).
5. On peut montrer que r et s suffisent pour calculer l’espacement optimal des répétitions (cf. équations (1) et (2)). Supposons d’abord que les deux fonctions suivantes f _r et f _s soient connues dans le système impliqué dans le stockage mnésique : r _i=f _r( s _i) et s _i=f _s( s _i-1). Dans notre cas, ces fonctions ont une forme triviale, f _r: r _i= s _i et f _s: s _i= s _i-1*C ₂ (où C ₂ est la constante de l’équation (2)). Dans ce cas, les variables r et s suffisent à représenter la mémoire à tout moment t dans l’espacement optimal des répétitions. Voici un algorithme d’espacement des répétitions qui le démontre :
   1. supposer que les variables r _i et s _i décrivent l’état de la mémoire après la i-ième répétition
   2. laisser s’écouler un temps r _i
   3. effectuer une répétition
   4. utiliser la fonction f _s pour calculer la nouvelle valeur de s _i+1 à partir de s _i
   5. utiliser la fonction f _r pour calculer la nouvelle valeur de r _i+1 à partir de s _i+1
   6. i:=i+1
   7. retourner à 2

Le raisonnement ci-dessus montre que les variables r et s forment un ensemble suffisant de variables indépendantes nécessaires pour calculer l’espacement optimal des répétitions. Il est évident qu’en utilisant un ensemble de fonctions de transformation de la forme r »=Tr( r‘) et s »=Ts( s‘), on peut concevoir une famille infinie de paires de variables r– s susceptibles de décrire l’état du système mnésique. Il reste un choix difficile à faire : celui de la paire r– s qui correspondra le plus commodément aux phénomènes moléculaires se produisant au niveau de la synapse.

Les auteurs proposent la terminologie et l’interprétation suivantes pour un système mnésique impliquant l’existence de la paire de variables r– s : la variable R, récupérabilité, déterrmine la probabilité avec laquelle une trace mnésique donnée peut être évoquée à un moment donné, tandis que la variable S, stabilité de la mémoire, déterrmine le taux de déclin de la récupérabilité résultant de l’oubli, et par conséquent la longueur des intervalles inter-répétition dans l’espacement optimal des répétitions.

En supposant une décroissance exponentielle négative de la récupérabilité, et en interprétant la stabilité comme l’inverse de la constante de décroissance de la récupérabilité, nous pouvons représenter commodément la relation entre R et S à l’aide de la formule suivante (t désigne le temps) :

(3) R=e ^-t/S

Les fonctions de transformation, à partir de la paire r– s utilisée dans les étapes 1 à 5 du raisonnement, vers l’interprétation proposée R-S se présentent comme suit (en supposant la définition de l’intervalle inter-répétition optimal comme l’intervalle produisant une rétention des connaissances K=0,95) :

(4) S=- s/ln(K)

(5) R=e ^{-( s– r)/S}

La relation entre la stabilité après la i-ième répétition (S _i) et les constantes C ₁ et C ₂ déterminant l’espacement optimal des répétitions tel que défini par les équations (1) et (2) peut donc s’écrire :

(6) S _i=-(C ₁*C ₂ ^i-1)/ln(K)

et enfin, la récupérabilité dans l’espacement optimal des répétitions peut s’exprimer comme :

(7) R _i(t)=exp ^{(t*ln(K)/(C ₁*C ₂ i-1))}

où :

• i – numéro de la répétition considérée
• t – temps écoulé depuis la i-ième répétition
• R _i(t) – récupérabilité après le temps t écoulé depuis la i-ième répétition dans l’espacement optimal des répétitions
• C ₁ et C ₂ – constantes des équations (1) et (2)
• K – rétention des connaissances égale à 0,95 (il est important de noter que la relation exprimée par l’équation (7) peut ne pas être valable pour une rétention supérieure à 0,95, en raison de l’effet d’espacement résultant d’intervalles plus courts)

Les deux composantes de la mémoire dans SuperMemo

SuperMemo a toujours été fondé sur le modèle à deux composantes, qui s’est exprimé sous une forme de plus en plus explicite au fil du temps. La constante C ₂ de l’équation (2) dans la démonstration de Murakowski ci-dessus représente l’ augmentation de la stabilité. En 2018, l’augmentation de la stabilité est représentée dans SuperMemo par la matrice SInc[]. C ₂ indique de combien les intervalles inter-répétition doivent augmenter dans l’apprentissage pour respecter les critères de niveau d’oubli admissible. En réalité, C ₂ n’est pas une constante. Elle dépend de plusieurs facteurs, dont les plus importants sont :

• la difficulté de l’élément (D) (voir : complexité) : plus l’information mémorisée est difficile, plus C ₂ est petit (c’est-à-dire que le contenu difficile doit être révisé plus souvent)
• la stabilité de la mémoire (S) : plus le souvenir est durable, plus la valeur de C ₂ est petite
• la probabilité de rappel ( récupérabilité) (R) : plus la probabilité de rappel est faible, plus la valeur de C ₂ est élevée (c’est-à-dire qu’en raison de l’ effet d’espacement, les éléments sont mieux mémorisés s’ils sont révisés avec un délai)

En raison de ces multiples dépendances, la valeur précise de C ₂ n’est pas facilement prévisible. SuperMemo résout ce problème d’optimisation, et d’autres similaires, en utilisant des matrices multidimensionnelles pour représenter des fonctions à plusieurs arguments et en ajustant la valeur de ces matrices à partir des mesures effectuées au cours du processus d’apprentissage réel. Les valeurs initiales de ces matrices sont dérivées d’un modèle théorique ou de mesures antérieures. Les valeurs réellement utilisées finiront, avec le temps, par différer légèrement de celles prédites théoriquement ou dérivées des données d’étudiants précédents.

Par exemple, si la valeur de C ₂ pour un élément donné, d’une difficulté donnée, dans un état mnésique donné, produit un intervalle inter-répétition plus long que souhaité (c’est-à-dire produisant un niveau de rappel inférieur à celui souhaité), la valeur de C ₂ est réduite en conséquence.

Voici l’évolution de l’ augmentation de la stabilité (constante C ₂) au fil des années :

• dans la version papier-crayon de SuperMemo (1985), C ₂ était effectivement (presque) une constante. Fixée à une moyenne de 1,75 (variant de 1,5 à 2,0 pour des raisons d’arrondi et de simplicité), elle ne tenait pas compte de la difficulté du contenu, de la stabilité ou de la récupérabilité des souvenirs, etc.
• dans les premières versions de SuperMemo pour DOS (1987), C ₂, appelé le facteur E, reflétait pour la première fois la difficulté de l’élément. Il était diminué pour les mauvaises notes et augmenté pour les bonnes notes
• SuperMemo 4 (1989) n’utilisait pas C ₂, mais employait pour la première fois des matrices d’optimisation pour calculer les intervalles inter-répétition
• dans SuperMemo 5 (1990), C ₂, appelé le facteur O, était enfin représenté sous forme de matrice et incluait à la fois la dimension de difficulté et la dimension de stabilité. Là encore, les entrées de la matrice étaient soumises au cycle mesure-vérification-correction qui, en partant de la valeur initiale fondée sur des mesures antérieures, produisait une convergence vers la valeur satisfaisant les critères d’apprentissage
• dans SuperMemo 6 (1991), C ₂, sous la forme de la matrice du facteur O, était dérivé d’une matrice tridimensionnelle incluant la dimension de récupérabilité. L’implication importante de cette troisième dimension était que, pour la première fois, SuperMemo permettait d’examiner les courbes d’oubli pour différents niveaux de difficulté et de stabilité mnésique
• de SuperMemo 8 (1997) à SuperMemo 16, la représentation de C ₂ n’a guère changé ; en revanche, l’algorithme utilisé pour produire une transition rapide et stable du jeu de données théorique vers le jeu de données réel est progressivement devenu de plus en plus complexe. Plus important encore, les nouvelles versions de SuperMemo exploitent mieux la dimension de récupérabilité de C ₂. Ainsi, indépendamment de l’ effet d’espacement, l’étudiant peut s’écarter des critères d’apprentissage initiaux, par exemple pour bachoter avant un examen, sans introduire de bruit dans la procédure d’optimisation
• dans SuperMemo 17 (2016), C ₂ a enfin pris la forme fondée sur le modèle original à deux composantes. Il est tiré de la matrice d’ augmentation de la stabilité (SInc), qui comporte trois dimensions représentant les trois variables déterminant l’augmentation de la stabilité : complexité, stabilité et récupérabilité. La matrice SInc se remplit de données au cours de l’apprentissage grâce à un algorithme complexe connu sous le nom d’ algorithme SM-17. La matrice d’augmentation de la stabilité peut être consultée dans SuperMemo 17 via Outils : Mémoire : Graphiques 4D (onglet Stabilité)

1989 : SuperMemo s’adapte à la mémoire de l’utilisateur

Introduction de la fonction d’intervalle flexible

SuperMemo 2 était excellent. Son algorithme simple a survécu sous diverses mutations jusqu’à aujourd’hui dans des applications populaires comme Anki ou Mnemosyne. Cependant, l’algorithme était rigide en ce sens qu’il n’existait aucun moyen de modifier la fonction des intervalles optimaux. Les conclusions de 1985 étaient gravées dans le marbre. La complexité mnésique et l’ augmentation de la stabilité étaient exprimées par un seul et même nombre : le facteur E. C’est un peu comme utiliser un seul levier sur un vélo pour changer à la fois de vitesse et de direction.

Chaque élément pouvait individuellement adapter l’espacement de sa révision par des modifications de sa difficulté estimée. Ces modifications pouvaient compenser des erreurs dans la fonction des intervalles optimaux. Même si l’algorithme convergeait lentement vers l’optimum, il était, en théorie, convergent. Le principal défaut résidait dans le fait que, dans l’algorithme SM-2, les nouveaux éléments ne bénéficiaient pas de l’expérience des anciens éléments.

L’algorithme SM-2 n’est pas adaptable. Les nouveaux éléments ne bénéficient pas de l’expérience des anciens éléments

L’algorithme SM-4 fut la première tentative de doter SuperMemo d’une adaptabilité universelle. Il fut achevé en février 1989. En fin de compte, l’adaptabilité était trop lente à se manifester, mais l’inspiration acquise avec l’algorithme SM-4 s’est révélée essentielle pour les progrès ultérieurs, notamment pour comprendre le problème de la stabilité contre la précision en répétition espacée. En bref, l’algorithme SM-4 était trop stable pour être précis. Ce défaut fut rapidement corrigé dans l’algorithme SM-5, seulement 7 mois plus tard. Voici un extrait de mon mémoire de fin d’études pour en expliquer les détails :

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

Ce texte fait partie de : « Optimization of learning » par Piotr Wozniak (1990)

Le principal défaut de l’ algorithme SM-2 semble avoir été la forme arbitraire de la fonction des intervalles optimaux. Bien que très efficace en pratique et confirmée par des années de répétitions expérimentales, cette fonction ne pouvait prétendre à une validité scientifiquement démontrée, ni détecter l’impact global de variations de quelques jours des intervalles optimaux sur le processus d’apprentissage. Compte tenu de ces défauts, j’ai décidé d’employer les répétitions courantes de SuperMemo pour valider la fonction des intervalles optimaux !

En utilisant des procédures d’optimisation semblables à celles employées pour déterminer les facteurs E, je voulais que le programme corrige la fonction initialement proposée chaque fois que des corrections semblaient justifiées.

Pour atteindre cet objectif, j’ai tabulé la fonction des intervalles optimaux.

Figure : La matrice des intervalles optimaux est apparue dans SuperMemo 4 en 1989 et a survécu jusqu’à aujourd’hui dans SuperMemo 17, avec quelques modifications. L’image présente une matrice de SuperMemo 5 et montre un écart significatif par rapport aux valeurs d’origine de la matrice. Dans SuperMemo 4, les adaptations se produisaient à un rythme beaucoup plus lent

Les entrées particulières de la matrice des intervalles optimaux (appelée par la suite matrice OI) étaient initialement tirées des formules utilisées dans l’algorithme SM-2.

SuperMemo 4 (février 1989), dans lequel la nouvelle solution fut mise en œuvre, utilisait la matrice OI pour déterminer les valeurs des intervalles inter-répétition :

I(n):=OI(n,EF)

où :

• I(n) – le n-ième intervalle inter-répétition d’un élément donné (en jours),
• EF – facteur E de l’élément,
• OI(n,EF) – l’entrée de la matrice OI correspondant à la n-ième répétition et au facteur E EF.

Cependant, la matrice OI n’était pas fixée une fois pour toutes. Au cours des répétitions, les entrées particulières de la matrice étaient augmentées ou diminuées en fonction des notes obtenues. Par exemple, si l’entrée indiquait un intervalle optimal X et que l’intervalle utilisé était X+Y, alors que la note obtenue après cet intervalle n’était pas inférieure à quatre, la nouvelle valeur de l’entrée se situerait entre X et X+Y.

Ainsi, les valeurs des entrées de la matrice OI devaient se stabiliser, à l’équilibre, au point où le flux d’éléments à faible rétention équilibre le flux d’éléments à bonne rétention dans leur influence sur la matrice.En conséquence, SuperMemo 4 avait pour but de produire une définition ultime de la fonction des intervalles optimaux.

SuperMemo 4, rigide

Il ne m’a pas fallu longtemps pour me rendre compte que le cycle de vérification-correction du nouvel algorithme était trop long. Ce n’était pas très différent de reproduire sur ordinateur l’ expérience de 1985. Pour déterminer des intervalles de dix ans, il me fallait attendre dix ans pour tester les résultats de la révision. Cela a conduit à l’ algorithme SM-5 sept mois plus tard. Voici le problème de l’algorithme SM-4, tel que décrit dans mon mémoire de fin d’études :

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

Ce texte fait partie de : « Optimization of learning » par Piotr Wozniak (1990)

L’algorithme SM-4 fut mis en œuvre dans SuperMemo 4 et utilisé entre le 9 mars 1989 et le 17 octobre 1989. Bien que le concept principal, consistant à modifier la fonction des intervalles optimaux, semblât constituer une avancée majeure, la mise en œuvre de l’algorithme s’est révélée un échec. L’insuffisance fondamentale de l’algorithme semble résulter des formules employées pour modifier la matrice OI.

Deux défauts étaient particulièrement frappants :

• les modifications étaient trop subtiles pour réorganiser visiblement la matrice OI dans un délai raisonnablement court,
• pour les intervalles inter-répétition plus longs, l’effet de la modification devait attendre très longtemps avant d’être fixé de manière stable, c’est-à-dire qu’il fallait beaucoup de temps avant que le résultat d’une modification d’un intervalle de plusieurs mois puisse être observé et corrigé si nécessaire

Après sept mois d’utilisation de l’algorithme SM-4, les matrices OI des différentes bases de données ne semblaient pas très différentes de leur état initial. On pourrait expliquer ce fait par la justesse de mes prédictions antérieures concernant les valeurs réelles des intervalles inter-répétition optimaux ; cependant, comme cela fut prouvé plus tard grâce à l’ algorithme SM-5, la véritable raison de la stabilité des matrices résidait dans les défauts des formules d’optimisation.Pour ce qui concerne le taux d’acquisition et la rétention, aucune preuve fiable ne montre que l’algorithme SM-4 ait apporté un quelconque progrès. La légère amélioration observée pourrait tout aussi bien être liée à l’amélioration générale du logiciel et aux progrès des principes de formulation des éléments

Vestiges de SuperMemo 4 dans les nouveaux SuperMemo

Il est intéressant de noter que l’on peut encore voir la matrice des intervalles optimaux dans les versions plus récentes de SuperMemo. La matrice n’est plus utilisée par l’algorithme, mais elle est affichée dans les statistiques de SuperMemo car elle informe l’utilisateur de l’impact de la complexité sur les perspectives des éléments dans le processus d’apprentissage.

Si vous comparez une matrice produite par SuperMemo 5 en 8 mois d’utilisation, vous remarquerez une similitude significative avec une matrice produite en deux décennies d’utilisation de l’algorithme SM-8 :

Figure : La matrice des intervalles optimaux n’est plus utilisée dans l’ algorithme SM-17. Elle peut néanmoins toujours être générée avec les procédures de l’algorithme SM-15. Les colonnes correspondent à la facilité du contenu, exprimée sous forme de facteur A. Les lignes correspondent à la stabilité mnésique, exprimée sous forme de catégorie de répétition

Algorithme SM-4

Voici les grandes lignes de l’algorithme SM-4, telles que décrites dans mon mémoire de fin d’études :

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

Ce texte fait partie de : « Optimization of learning » par Piotr Wozniak (1990)

Algorithme SM-4 utilisé dans SuperMemo 4.0 :

1. Découpez les connaissances en éléments les plus petits possibles
2. Associez à tous les éléments un facteur E égal à 2,5
3. Tabulez la matrice OI pour différents numéros de répétition et catégories de facteur E
4. Utilisez l’espacement de répétition suivant pour obtenir la matrice OI initiale :OI(1,EF):=1OI(2,EF):=6pour n>2 : OI(n,EF):=OI(n-1,EF)*EFoù :
   • OI(n,EF) – intervalle inter-répétition optimal après la n-ième répétition (en jours) pour les éléments dont le facteur E est égal à EF,
5. Utilisez la matrice OI pour déterminer les intervalles inter-répétition :I(n,EF):=OI(n,EF)où :
   • I(n,EF) – le n-ième intervalle inter-répétition pour un élément dont le facteur E est égal à EF (en jours),
   • OI(n,EF) – l’entrée de la matrice OI correspondant à la n-ième répétition et au facteur E EF
6. Après chaque répétition, évaluez la qualité de la réponse à la répétition sur l’échelle de 0 à 5 (voir l’ algorithme SM-2).
7. Après chaque répétition, modifiez le facteur E de l’élément récemment répété selon la formule :EF’:=EF+(0.1-(5-q)*(0.08+(5-q)*0.02))où :
   • EF’ – nouvelle valeur du facteur E,
   • EF – ancienne valeur du facteur E,
   • q – qualité de la réponse sur l’échelle de 0 à 5.
   Si EF est inférieur à 1,3, fixez EF à 1,3.
8. Après chaque répétition, modifiez l’entrée correspondante de la matrice OI.
9. Une formule exemplaire pourrait se présenter comme suit (la formule réellement utilisée dans SuperMemo 4 était plus complexe) :OI’:=intervalle+intervalle*(1-1/EF)/2*(0.25*q-1)OI :=(1-fraction)*OI+fraction*OI’où :
   • OI – nouvelle valeur de l’entrée OI,
   • OI’ – valeur auxiliaire de l’entrée OI utilisée dans les calculs,
   • OI – ancienne valeur de l’entrée OI,
   • intervalle – intervalle utilisé avant la répétition considérée (c’est-à-dire le dernier intervalle utilisé pour l’élément donné),
   • fraction – un nombre quelconque entre 0 et 1 (plus il est grand, plus rapides sont les changements de la matrice OI),
   • EF – facteur E de l’élément répété,
   • q – qualité de la réponse sur l’échelle de 0 à 5.
   Notez que pour q=4, l’OI ne change pas, et que pour q=5, l’OI augmente 4 fois moins qu’il ne diminue pour q=0.Notez également que le changement maximal de l’OI est égal à (I(n)-I(n-1))/2 en termes de l’espacement de répétition utilisé dans l’algorithme SM-2 (c’est-à-dire (OI-OI/EF)/2).
10. Si la qualité de la réponse était inférieure à 3, recommencez les répétitions de l’élément depuis le début sans modifier le facteur E.
11. Après chaque session de répétition d’une journée donnée, répétez à nouveau tous les éléments ayant obtenu une note inférieure à quatre. Continuez les répétitions jusqu’à ce que tous ces éléments obtiennent au moins quatre

Problèmes liés à la matrice d’intervalles

Outre sa convergence lente, l’algorithme SM-4 a montré que l’utilisation d’une matrice d’intervalles entraînait plusieurs problèmes qui pouvaient facilement être résolus en remplaçant les intervalles par des facteurs O. Ces défauts supplémentaires ont conduit à une mise en œuvre rapide de l’ algorithme SM-5, dès 1989. Voici une brève analyse expliquant les défauts de l’utilisation de la matrice des intervalles optimaux :

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

Ce texte fait partie de : « Optimization of learning » par Piotr Wozniak (1990)

• Au cours des répétitions, il pouvait arriver que l’un des intervalles soit calculé comme plus court que le précédent. Cela est bien entendu incompatible avec les hypothèses générales qui sous-tendent la méthode SuperMemo. De plus, la validité d’un tel résultat a été réfutée par les résultats obtenus avec l’application de l’algorithme SM-5. Ce défaut aurait pu être évité en interdisant aux intervalles d’augmenter ou de diminuer au-delà de certaines valeurs, mais une telle approche aurait considérablement ralenti le processus d’optimisation, en reliant les intervalles optimaux par des dépendances superflues. Le cas évoqué a effectivement été observé dans une des bases de données. La divergence n’a pas été éliminée avant la fin de la période d’utilisation de l’algorithme SM-4, malgré le fait que les intervalles en question n’étaient que de deux semaines
• Les facteurs E de chaque élément sont constamment modifiés ; ainsi, dans la matrice OI, un élément peut passer d’une catégorie de difficulté à une autre. Si le numéro de répétition de cet élément est suffisamment élevé, cela entraînera de sérieuses perturbations dans le processus de répétition de cet élément. Notez que plus le numéro de répétition est élevé, plus la différence entre les intervalles optimaux des colonnes de catégories de facteur E voisines est grande. Ainsi, si le facteur E augmente, l’intervalle optimal utilisé pour l’élément peut devenir artificiellement long, tandis que, dans la situation inverse, l’intervalle peut être beaucoup trop court

L’algorithme SM-4 tentait de relier la longueur de l’intervalle optimal au numéro de répétition. Cette approche semble incorrecte, car la mémoire est bien plus susceptible d’être sensible à la longueur de l’intervalle inter-répétition précédemment appliqué qu’au numéro de la répétition.

SuperMemo 5

L’idée de la matrice des intervalles optimaux est née le 11 février 1989. Le 1er mars 1989, j’ai commencé à utiliser SuperMemo 4 pour apprendre l’espéranto. Très tôt, j’ai remarqué que l’idée avait besoin d’être révisée. La convergence de l’algorithme était affreusement lente.

Le 5 mai, j’avais une nouvelle idée en tête. C’était, en substance, la naissance de la fonction d’ augmentation de la stabilité, sauf que, dans la révision optimale de SuperMemo, il n’y aurait pas de dimension de récupérabilité. Le nouvel algorithme utiliserait la matrice des facteurs optimaux. Il retiendrait de combien les intervalles doivent augmenter en fonction de la complexité mnésique et de la stabilité mnésique actuelle. La lenteur de convergence de l’algorithme SM-4 a également inspiré le besoin de randomiser les intervalles (20 mai).

Dans l’intervalle, le progrès a de nouveau dû être retardé à cause des obligations scolaires. Avec Krzysztof Biedalak, nous avons décidé d’écrire un programme de création de tests scolaires pouvant être utilisé avec SuperMemo. Le projet a de nouveau servi à échapper à d’autres obligations dans les cours du Dr Katulski, esprit ouvert qui était désormais devenu un adepte de tout ce qui touchait à SuperMemo.

J’ai passé l’été en stage pratique aux Pays-Bas, où les progrès étaient lents en raison de diverses obligations. L’une des principales raisons de cette lenteur était un régime alimentaire extrême, résultant du besoin d’économiser de l’argent pour rembourser mes dettes liées au PC 1512. J’espérais également gagner un peu plus pour acheter un disque dur pour mon ordinateur. Tout mon travail a été rendu possible grâce à l’amabilité de Peter Klijn, de l’université d’Eindhoven. Il m’a simplement prêté son PC pour mon usage personnel pendant toute la durée de mon séjour. Il ne voulait pas que mon bon travail sur SuperMemo soit ralenti. C’était la première fois que je pouvais conserver tous mes fichiers sur un disque dur, et j’ai eu l’impression de passer d’un vieux vélo à une Tesla Model S.

Ce n’est que le 16 octobre 1989 que le nouvel algorithme SM-5 fut achevé, et j’ai commencé à utiliser SuperMemo 5. J’ai noté dans mes carnets : « une grande révolution se prépare». Le progrès fut en effet considérable.

J’avais quelques utilisateurs de SuperMemo 2 prêts à passer à SuperMemo 5. Je n’ai exigé qu’un seul prix : qu’ils commencent avec la matrice des facteurs optimaux initialisée à une valeur spécifique. Cela devait permettre de valider l’algorithme et de s’assurer qu’il ne comportait aucun préjugé préconçu. Toutes les matrices d’optimisation préréglées convergeaient joliment et rapidement. Ce fait a ensuite été utilisé pour revendiquer une convergence universelle, et l’algorithme a été décrit comme tel dans la toute première publication sur les algorithmes de répétition espacée.

Algorithme SM-5

SuperMemo utilise un principe simple : « utiliser, vérifier et corriger ». Après une répétition, un nouvel intervalle est calculé à l’aide de la matrice OF. L’« entrée pertinente » pour calculer l’intervalle dépend de la répétition (catégorie) et de la difficulté de l’élément. Une fois l’intervalle écoulé, SuperMemo demande la répétition suivante. La note sert à indiquer à SuperMemo dans quelle mesure l’intervalle a « bien fonctionné ». Si la note est faible, on a des raisons de croire que l’intervalle est trop long et que l’entrée de la matrice OF est trop élevée. Dans ce cas, on réduit légèrement l’entrée OF. L’entrée pertinente ici est celle qui a été précédemment utilisée pour calculer l’intervalle (c’est-à-dire avant que l’intervalle ne commence). En d’autres termes, c’est l’entrée qui est (1) utilisée pour calculer l’intervalle (après la n-ième répétition), puis (2) utilisée pour corriger la matrice OF (après la n+1-ième répétition).

Voici les grandes lignes de l’algorithme SM-5, telles que présentées dans mon mémoire de fin d’études :

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

La formulation finale de l’algorithme utilisé dans SuperMemo 5 est présentée ci-dessous (algorithme SM-5) :

1. Découpez les connaissances en éléments les plus petits possibles
2. Associez à tous les éléments un facteur E égal à 2,5
3. Tabulez la matrice OF pour différents numéros de répétition et catégories de facteur E. Utilisez la formule suivante :OF(1,EF):=4pour n>1 : OF(n,EF):=EFoù :
   • OF(n,EF) – facteur optimal correspondant à la n-ième répétition et au facteur E EF
4. Utilisez la matrice OF pour déterminer les intervalles inter-répétition :I(n,EF)=OF(n,EF)*I(n-1,EF)I(1,EF)=OF(1,EF)où :
   • I(n,EF) – le n-ième intervalle inter-répétition pour un élément d’un facteur E donné EF (en jours)
   • OF(n,EF) – l’entrée de la matrice OF correspondant à la n-ième répétition et au facteur E EF
5. Après chaque répétition, évaluez la qualité des réponses de répétition sur une échelle de notation de 0 à 5 (cf. algorithme SM-2)
6. Après chaque répétition, modifiez le facteur E de l’élément récemment répété selon la formule :EF’:=EF+(0.1-(5-q)*(0.08+(5-q)*0.02))où :
   • EF’ – nouvelle valeur du facteur E
   • EF – ancienne valeur du facteur E
   • q – qualité de la réponse sur l’échelle de notation de 0 à 5
   Si EF est inférieur à 1,3, réglez EF sur 1,3
7. Après chaque répétition, modifiez l’entrée correspondante de la matrice OF. Voici, à titre d’exemple, des formules construites arbitrairement pouvant être utilisées pour cette modification :OF’:=OF*(0.72+q*0.07)OF :=(1-fraction)*OF+fraction*OF’où :
   • OF – nouvelle valeur de l’entrée OF
   • OF’ – valeur auxiliaire de l’entrée OF utilisée dans les calculs
   • OF – ancienne valeur de l’entrée OF
   • fraction – un nombre quelconque entre 0 et 1 (plus il est élevé, plus les changements de la matrice OF sont rapides)
   • q – qualité de la réponse sur l’échelle de notation de 0 à 5
   Notez que pour q=4, l’OF ne change pas. Il augmente pour q>4 et diminue pour q<4.
8. Si la qualité de la réponse était inférieure à 3, recommencez les répétitions de l’élément depuis le début sans modifier le facteur E
9. Après chaque session de répétition d’une journée donnée, répétez à nouveau tous les éléments ayant obtenu un score inférieur à quatre lors de l’évaluation de la qualité. Poursuivez les répétitions jusqu’à ce que tous ces éléments obtiennent un score d’au moins quatre

Conformément aux observations précédentes, les entrées de la matrice OF n’étaient pas autorisées à descendre en dessous de 1,2. Dans l’algorithme SM-5, par définition, les intervalles ne peuvent pas devenir plus courts lors des répétitions suivantes. Les intervalles sont au moins 1,2 fois plus longs que leurs prédécesseurs. Changer de catégorie de facteur E n’augmente le prochain intervalle appliqué que dans la mesure exigée par l’entrée correspondante de la matrice OF.

Critique de l’algorithme SM-5

Le manuel d’Anki contient un passage étonnamment critique à l’égard de l’algorithme SM-5 (avril 2018). Ces mots sont d’autant plus surprenants que l’algorithme SM-5 n’a jamais été publié en intégralité (la version présentée ci-dessus n’est qu’un aperçu grossier). Bien que ces critiques aient manifestement été formulées de bonne foi, elles suggèrent que si l’ algorithme SM-2 était supérieur à l’ algorithme SM-5, peut-être l’est-il aussi par rapport à l’ algorithme SM-17. Si c’était le cas, j’aurais gaspillé les 30 dernières années de recherche et de programmation. À ce jour, Wikipédia « critique » encore « SM3+ ». « SM3+ » est une étiquette utilisée pour la première fois dans le manuel d’Anki et reprise sur des dizaines de sites web (en particulier ceux qui préfèrent s’en tenir à l’ancien algorithme pour sa simplicité). Une comparaison entre l’algorithme SM-2 et l’algorithme SM-17 est présentée ici.

Affirmation erronée dans le manuel d’Anki

Mon mémoire de maîtrise, publié en extraits en 1998 sur supermemo.com, ne comportait qu’une description succincte de l’algorithme SM-5. Par souci de clarté, des dizaines de procédures mineures n’ont pas été publiées. Ces procédures auraient nécessité un long travail d’ajustement pour garantir une bonne convergence, stabilité et précision. Ce type d’ajustement demande des mois d’apprentissage combinés à de l’analyse. Il n’a jamais existé de version prête à l’emploi de l’algorithme SM-5.

Le code source de l’algorithme SM-5 n’a jamais été publié ni ouvert, et l’algorithme original ne pouvait être testé que par les utilisateurs de SuperMemo 5, sous MS-DOS. SuperMemo 5 est devenu gratuit (freeware) en 1993. Il est important de noter que la dispersion aléatoire des intervalles autour de la valeur optimale était essentielle pour établir la convergence. Sans cette dispersion, la progression de l’algorithme aurait été atrocement lente. De même, le lissage de la matrice était nécessaire pour garantir un comportement cohérent, indépendamment de la richesse des données recueillies pour différents niveaux de stabilité et de complexité des éléments.

De nombreuses évaluations menées en 1989, et depuis, ont mis en évidence une supériorité incontestable de l’algorithme SM-5 et des algorithmes ultérieurs sur l’ algorithme SM-2, quelle que soit la mesure étudiée. L’ algorithme SM-17 pourrait d’ailleurs servir à mesurer l’efficacité de l’algorithme SM-5, si nous avions des volontaires pour réimplémenter ce vieux code afin de l’utiliser avec nos métriques universelles. Nous l’avons fait pour l’algorithme SM-2 jusqu’à présent, le coût de mise en œuvre étant négligeable. Il va sans dire que l’algorithme SM-2 accuse un net retard en matière de pouvoir prédictif, en particulier pour les niveaux sous-optimaux de récupérabilité.

Même une compréhension élémentaire du modèle sous-jacent devrait suffire à faire comprendre qu’une bonne implémentation apporterait des bénéfices considérables. SuperMemo 5 adaptait sa fonction d’intervalles à la mémoire de l’utilisateur. SuperMemo 2, lui, était figé une fois pour toutes. Je suis très fier que les hypothèses hasardeuses formulées en 1985 et en 1987 aient résisté à l’épreuve du temps, mais aucun algorithme ne devrait se fier au jugement d’un humble étudiant n’ayant que deux ans d’expérience dans l’implémentation d’algorithmes de répétition espacée. Au contraire, SuperMemo 4 et toutes les implémentations qui ont suivi ont fait de moins en moins de suppositions et ont offert une adaptabilité meilleure et plus rapide. Parmi toutes ces implémentations, seul SuperMemo 4 s’est révélé lent à s’adapter et a été remplacé en sept mois par une implémentation supérieure.

Il n’y a aucune malveillance dans la critique d’Anki, mais je ne serais pas surpris que son auteur ait préféré pousser vers une implémentation et un passage rapide à l’auto-apprentissage plutôt que de passer du temps à peaufiner des procédures qui ne fonctionnaient pas comme il l’aurait souhaité. En revanche, dès 1989, je savais que l’algorithme SM-2 était imparfait, je savais que l’algorithme SM-5 lui était supérieur, et je n’ai ménagé ni temps ni efforts pour faire en sorte que ce nouveau concept soit perfectionné jusqu’à son potentiel théorique maximal.

Extrait du manuel d’Anki (avril 2018) :

Anki était à l’origine basé sur l’algorithme SM5 de SuperMemo. Cependant, le comportement par défaut d’Anki, consistant à révéler le prochain intervalle avant de répondre à une carte, a mis en lumière certains problèmes fondamentaux de l’algorithme SM5. La principale différence entre SM2 et les révisions ultérieures de l’algorithme est la suivante :

• SM2 utilise vos performances sur une carte pour déterminer la prochaine date de programmation de cette carte
• SM3+ utilise vos performances sur une carte pour déterminer la prochaine date de programmation de cette carte, ainsi que des cartes similaires

Cette dernière approche promet de choisir des intervalles plus précis en tenant compte non seulement de la performance d’une carte isolée, mais aussi de la performance du groupe. Si vous êtes très régulier dans vos études et que toutes les cartes présentent une difficulté très similaire, cette approche peut très bien fonctionner. Cependant, dès que des incohérences s’introduisent dans l’équation (cartes de difficultés variées, études qui ne se font pas à la même heure chaque jour), SM3+ est plus susceptible de mal estimer le prochain intervalle, ce qui entraîne des cartes programmées trop souvent ou trop éloignées dans le temps.

De plus, comme SM3+ ajuste dynamiquement le tableau des « facteurs optimaux », il peut arriver que répondre « difficile » à une carte produise un intervalle plus long que si l’on avait répondu « facile ». Les prochaines échéances vous sont dissimulées dans SuperMemo, si bien que l’utilisateur n’en est jamais conscient.Après avoir évalué les alternatives, l’auteur d’Anki a décidé que des intervalles quasi-optimaux issus d’une variante de SM2 valaient mieux que la tentative d’obtenir des intervalles optimaux au risque d’estimations erronées. Une approche SM2 est prévisible et intuitive pour l’utilisateur final, alors qu’une approche SM3+ dissimule les détails à l’utilisateur et exige de celui-ci qu’il fasse confiance au système (même lorsque celui-ci peut se tromper dans la programmation).

Quelques précisions pour ceux qui s’y intéressent :

• le fait que SuperMemo 5 se soit servi des performances passées de tous les éléments pour optimiser la performance sur les nouveaux éléments est un avantage, et non un « problème ». Bien plus, c’est précisément la clé de sa puissance d’adaptation
• une notation incohérente a toujours posé problème à tous les algorithmes. En moyenne, l’adaptabilité permet de compenser l’effet moyen d’un mauvais usage, surtout si les incohérences sont elles-mêmes cohérentes (c’est-à-dire si l’utilisateur commet des erreurs similaires dans des circonstances similaires)
• les difficultés mixtes sont bien mieux gérées par SuperMemo 5, car si dans SuperMemo 2 la difficulté et l’augmentation de la stabilité sont toutes deux codées par le facteur E, dans SuperMemo 5 et les versions suivantes, ces deux propriétés de la mémoire sont dissociées
• la supériorité des prédictions d’intervalles dans SuperMemo 5 a été démontrée, et l’affirmation « plus susceptible de mal estimer » ne peut s’expliquer que par des erreurs d’implémentation
• des notes plus basses peuvent entraîner des intervalles plus longs si le lissage de la matrice n’est pas implémenté. Cette partie de l’algorithme n’a été décrite que verbalement dans mon mémoire
• les intervalles et les dates de répétition ont toujours été affichés de façon visible dans SuperMemo, même dans les implémentations les plus simples (par exemple pour les assistants numériques personnels, les smartphones, etc.). Rien n’est caché à l’utilisateur. Surtout, les statistiques d’ indice d’oubli et de charge sont pleinement visibles et permettent de vérifier si SuperMemo tient sa promesse de rétention, et à quel coût en termes de charge de travail

De toutes ces affirmations, une seule pourrait être vraie. SuperMemo 2 est peut-être en effet plus intuitif. Ce problème hante SuperMemo depuis des années. Chaque nouvelle version est plus complexe, et il est difficile de dissimuler une partie de cette complexité aux utilisateurs. Nous continuerons néanmoins d’essayer.

Notre réponse officielle, publiée sur supermemopedia.com en 2011, semble encore assez pertinente aujourd’hui :

Avertissement d’archive : pourquoi utiliser des archives littérales ?

Il est louable qu’Anki introduise ses propres innovations tout en rendant hommage à SuperMemo. Il est vrai que l’algorithme SM-2 de SuperMemo fonctionne à merveille comparé, par exemple, au système Leitner ou à SuperMemo sur papier. Cependant, la supériorité de l’algorithme SM-5 sur SM-2 est incontestable, tant en pratique qu’en théorie. C’est l’algorithme SM-2 qui fige les intervalles et les fait dépendre uniquement de la difficulté de l’élément, approximée par une formule heuristique (c’est-à-dire une formule fondée sur une estimation issue d’une expérience limitée d’avant 1987). Il est vrai qu’on ne peut pas « corrompre » l’algorithme SM-2 en lui fournissant de fausses données. C’est uniquement parce qu’il n’est pas adaptable. Vous préférez probablement votre traitement de texte avec des polices personnalisables, même si vous pouvez gâcher votre texte en lui appliquant du Wingdings.

L’algorithme SM-2 multiplie simplement, de façon rudimentaire, les intervalles par un facteur dit « facteur E », qui exprime la difficulté de l’élément. À l’inverse, l’algorithme SM-5 recueille des données sur la performance de l’utilisateur et modifie en conséquence la fonction des intervalles optimaux. En d’autres termes, il s’adapte à la performance de l’étudiant. L’algorithme SM-6 va encore plus loin en modifiant la fonction des intervalles optimaux de manière à atteindre un niveau de rétention des connaissances souhaité. La supériorité de ces algorithmes plus récents a été vérifiée de multiples façons, par exemple en mesurant la baisse de la charge de travail dans le temps pour des bases de données de taille fixe. Dans les cas étudiés (échantillon restreint), la baisse de la charge de travail avec les nouveaux algorithmes était près de deux fois plus rapide que celle observée avec les anciennes bases de données traitées avec l’algorithme SM-2 (même type de matériel : vocabulaire anglais).

Tous les algorithmes de SuperMemo regroupent les éléments en catégories de difficulté. L’algorithme SM-2 attribue à chaque catégorie un ensemble d’intervalles rigides. L’algorithme SM-5 attribue lui aussi le même ensemble d’intervalles à chaque catégorie, mais ceux-ci sont adaptés en fonction de la performance de l’utilisateur, c’est-à-dire qu’ils ne sont pas figés.

La cohérence est effectivement plus importante dans l’algorithme SM-5 que dans l’algorithme SM-2, puisque des données erronées entraîneront une « fausse adaptation ». Cependant, il est toujours néfaste de donner des notes fausses ou trichées dans SuperMemo, quel que soit l’algorithme utilisé.Avec une connaissance incomplète de la mémoire, l’adaptabilité est toujours supérieure aux modèles rigides. C’est pourquoi il est encore préférable de s’adapter à une moyenne imprécise (comme dans l’algorithme SM-5) plutôt que de fonder les intervalles sur une estimation imprécise (comme dans l’algorithme SM-2). Il va sans dire que le dernier mot revient à l’algorithme SM-8 et à ses successeurs, puisqu’il s’adapte à la moyenne mesurée.

Évaluation de SuperMemo 5 (1989)

SuperMemo 5 était si manifestement supérieur que je n’ai pas eu besoin de recueillir beaucoup de données pour étayer mon propos. Je n’ai fait que quelques comparaisons pour mon mémoire de maîtrise, et elles ne laissaient aucun doute.

Avertissement d’archive : pourquoi utiliser des archives littérales ?

3.8. Évaluation de l’algorithme SM-5

L’algorithme SM-5 est utilisé depuis le 17 octobre 1989 et a dépassé toutes les attentes en offrant une méthode efficace pour déterminer la fonction souhaitée d’intervalles optimaux et, par conséquent, en améliorant le taux d’acquisition (15 000 éléments appris en 9 mois). La figure 3.5 montre que le taux d’acquisition était au moins deux fois plus élevé que celui obtenu par l’application combinée des algorithmes SM-2 et SM-4 !

Figure : évolution de la charge de travail dans les bases de données gérées par les algorithmes SM-2 et SM-5.

La rétention des connaissances a atteint environ 96 % pour des bases de données âgées de 10 mois. Ci-dessous, quelques données de rétention des connaissances dans des bases de données sélectionnées permettent de comparer les algorithmes SM-2 et SM-5 :

• Date – date de la mesure,
• Base de données – nom de la base de données ; ALL désigne la moyenne de toutes les bases de données
• Intervalle – intervalle courant moyen utilisé par les éléments de la base de données
• Rétention – rétention des connaissances dans la base de données
• Version – version de l’algorithme appliquée à la base de données

Au cours des répétitions, la distribution suivante des notes a été enregistrée :

Cette distribution, conformément aux hypothèses sous-jacentes à l’algorithme SM-5, donne une qualité de réponse moyenne égale à 4. L’indice d’oubli est de 11 % (les éléments dont la qualité est inférieure à 3 sont considérés comme oubliés). Notez que les données de rétention indiquent que seulement 4 % des éléments d’une base de données ne sont pas retenus. L’indice d’oubli dépasse donc de 2,7 fois le pourcentage d’éléments réellement oubliés.Dans une base de données âgée de 7 mois, on a constaté que 70 % des éléments n’avaient jamais été oubliés au cours des répétitions précédant la mesure, tandis que seulement 2 % des éléments avaient été oubliés plus de 3 fois.

Preuve théorique de la supériorité des algorithmes plus récents

La critique d’Anki à l’encontre de SuperMemo 5 appelle une preuve simple à la lumière de la théorie moderne de la répétition espacée. Nous pouvons montrer que le modèle de mémoire actuel peut se rapporter aux modèles sous-jacents des deux algorithmes, l’ algorithme SM-2 et l’ algorithme SM-5, et que la différence clé entre les deux réside dans l’absence d’adaptabilité de la fonction des intervalles optimaux (représentée dans l’algorithme SM-5 par la matrice OF).

Soit SInc=f(C,S,R) une fonction d’ augmentation de la stabilité prenant comme arguments la complexité C, la stabilité S et la récupérabilité R. Cette fonction détermine l’augmentation progressive des intervalles de révision dans un apprentissage optimal.

Les algorithmes SM-2 et SM-5 ignorent tous deux la dimension de récupérabilité. En théorie, si les deux algorithmes fonctionnaient parfaitement, on pourrait supposer qu’ils visent un R=0,9. Or, comme on peut le mesurer dans SuperMemo, les deux algorithmes échouent dans cette entreprise, car ils ne connaissent pas les courbes d’oubli pertinentes. Ils ne recueillent tout simplement pas de données de courbe d’oubli. Cette fonction n’a été introduite qu’avec l’ algorithme SM-6 en 1991.

Cependant, si l’on suppose que les heuristiques de 1985 et de 1987 étaient des estimations parfaites, en théorie, l’algorithme pourrait utiliser SInc=F(C,S) avec un R constant de 90 %.

Du fait que SM-2 utilise le même nombre, l’ EF, à la fois pour l’ augmentation de la stabilité et pour la complexité de l’élément, pour SM-2 nous avons l’équation SInc=f(C,S) représentée par EF=f'(EF,intervalle), où il est facile de montrer, à partir des données, que f<>f’. Étonnamment, l’heuristique utilisée dans SM-2 a fait fonctionner cette fonction en découplant le lien réel entre EF et la complexité de l’élément. Comme les données montrent que SInc continue de diminuer avec S, cela signifie que dans l’algorithme SM-2, par définition, tous les éléments devraient gagner en complexité à chaque révision si EF devait représenter la complexité de l’élément. En termes pratiques, l’algorithme SM-2 utilise EF=f'(EF,intervalle), ce qui se traduit par SInc(n)=f(SInc(n-1),intervalle).

Supposons que l’heuristique EF=f(EF,intervalle) était une excellente estimation, comme le prétendent les utilisateurs de l’algorithme SM-2. Soit SInc représenté par le facteur O dans l’algorithme SM-5. Nous pourrions alors représenter SInc=f(C,S) par OF=f(EF,intervalle).

Pour l’algorithme SM-2, OF serait constant et égal à EF ; dans l’algorithme SM-5, OF est adaptable et peut être modifié en fonction de la performance de l’algorithme. Il semble assez évident que pénaliser l’algorithme pour une mauvaise performance par une baisse des entrées de la matrice OF, et le récompenser par une augmentation de ces mêmes entrées, est préférable au maintien d’un OF constant.

Ironiquement, autant les partisans de l’algorithme SM-2 affirment que celui-ci fonctionne très bien, autant les partisans du SuperMemo à réseau de neurones n’ont cessé d’accuser les algorithmes algébriques de manquer d’adaptabilité. En réalité, l’adaptabilité de l’ algorithme SM-17 est à ce jour la meilleure, car il repose sur le modèle de mémoire le plus précis.

Il est concevable que les heuristiques utilisées dans SM-2 aient été si précises que la supposition initiale sur OF=f(EF,intervalle) n’ait nécessité aucune modification. Cependant, comme cela a été démontré en pratique, la matrice OF évolue rapidement et converge vers des valeurs décrites dans Wozniak, Gorzelańczyk 1994. Elles diffèrent sensiblement de l’hypothèse figée dans l’ algorithme SM-2.

Résumé :

• aujourd’hui : SInc=f(C,S,R), 3 variables, f est adaptable
• sm5 : SInc=f(C,S,0.9), 2 variables, f est adaptable
• sm2 : SInc=f(SInc,S,0.9) – 1 variable, f est fixe

Convergence

L’algorithme SM-5 a montré une convergence rapide, ce qui a été rapidement démontré par les utilisateurs qui ont débuté avec des matrices OF univalentes. C’était un contraste saisissant avec l’algorithme SM-4.

Avertissement d’archive : pourquoi utiliser des archives littérales ?

3.6. Amélioration de la matrice prédéterminée des facteurs optimaux

Les procédures d’optimisation appliquées lors des transformations de la matrice OF se sont révélées d’une efficacité satisfaisante, aboutissant à une convergence rapide des entrées OF vers leurs valeurs finales.

Cependant, sur la période considérée (du 17 octobre 1989 au 23 mai 1990), seuls les facteurs optimaux caractérisés par des cycles de modification-vérification courts (moins de 3 à 4 mois) semblent avoir atteint leurs valeurs d’équilibre.

Il faudra encore quelques années avant que des conclusions plus solides puissent être tirées sur la forme définitive de la matrice OF. Le fait le plus intéressant, apparu après l’analyse de matrices OF âgées de 7 mois, est que le premier intervalle inter-répétitions devrait être aussi long que 5 jours pour un facteur E égal à 2,5, et même 8 jours pour un facteur E égal à 1,3 ! Pour le second intervalle, les valeurs correspondantes étaient respectivement d’environ 3 et 2 semaines.

La fonction d’intervalles optimaux nouvellement obtenue pourrait se formuler ainsi :

I(1)=8-(EF-1.3)/(2.5-1.3)*3

I(2)=13+(EF-1.3)/(2.5-1.3)*8

pour i>2 I(i)=I(i-1)*(EF-0.1)

où :

• I(i) – intervalle après la i-ème répétition (en jours)
• EF – facteur E de l’élément considéré.

Pour accélérer le processus d’optimisation, cette nouvelle fonction devrait être utilisée pour déterminer l’état initial de la matrice OF (étape 3 de l’algorithme SM-5). À l’exception du premier intervalle, cette nouvelle fonction ne diffère pas significativement de celle employée dans les algorithmes SM-0 à SM-5. On pourrait attribuer ce fait aux inefficacités des procédures d’optimisation, qui, après tout, sont biaisées par l’utilisation d’une matrice OF prédéterminée. Pour m’assurer qu’il ne s’agissait pas de cela, j’ai demandé à trois de mes collègues d’utiliser des versions expérimentales de SuperMemo 5.3 dans lesquelles des matrices OF univalentes étaient utilisées (toutes les entrées égales à 1,5 dans deux expériences et à 2,0 dans la troisième).Bien que les bases de données expérimentales n’aient été utilisées que pendant 2 à 4 mois, les matrices OF semblent converger lentement vers la forme obtenue avec la matrice OF prédéterminée. Cependant, les matrices OF prédéterminées héritent de la corrélation artificielle entre les facteurs E et les valeurs des entrées OF dans la catégorie de facteur E correspondante (c’est-à-dire que pour n>3, la valeur OF(n,EF) est proche de EF). Ce phénomène n’apparaît pas dans les matrices univalentes, qui tendent à ajuster les matrices OF de façon plus étroite aux exigences posées par des éléments choisis arbitrairement de l’algorithme, comme la valeur initiale des facteurs E (toujours 2,5), la fonction modifiant les facteurs E après les répétitions, etc.

Lissage de la matrice

Une partie des critiques formulées par l’auteur d’Anki pourrait résulter du fait de ne pas avoir employé le lissage de matrice, qui était une composante importante de l’algorithme et qui est encore utilisée dans l’ algorithme SM-17.

Avertissement d’archive : pourquoi utiliser des archives littérales ?

3.7. Propagation des changements à travers la matrice des facteurs optimaux

Ayant constaté les régularités mentionnées plus haut dans les relations entre les entrées de la matrice OF, j’ai décidé d’accélérer le processus d’optimisation en propageant les modifications à travers la matrice. Si un facteur optimal augmente ou diminue, on peut en conclure que le facteur OF correspondant à un numéro de répétition supérieur devrait lui aussi augmenter.

Cela découle de la relation OF(i,EF)=OF(i+1,EF), qui est approximativement valable pour tous les facteurs E et pour i>2. De même, on peut envisager des changements souhaitables des facteurs en se rappelant que pour i>2 on a OF(i,EF’)=OF(i,EF )*EF’/EF (en particulier si EF’ et EF sont suffisamment proches). Je n’ai utilisé la propagation des changements qu’à travers la partie de la matrice OF qui n’avait pas encore été modifiée par le retour d’information des répétitions. Cela s’est révélé particulièrement efficace dans le cas des matrices OF univalentes appliquées dans les versions expérimentales de SuperMemo mentionnées au paragraphe précédent.

Le schéma de propagation proposé peut se résumer ainsi :

1. Après avoir exécuté l’étape 7 de l’algorithme SM-5, localisez toutes les entrées voisines de la matrice OF qui n’ont pas encore été modifiées au cours des répétitions, c’est-à-dire les entrées qui n’ont pas encore entamé le cycle de modification-vérification. Les entrées voisines sont ici comprises comme celles correspondant au numéro de répétition +/- 1 et à la catégorie de facteur E +/- 1 (c’est-à-dire le facteur E +/- 0,1)
2. Modifiez les entrées voisines chaque fois que l’une des relations suivantes n’est pas respectée :
   • pour i>2 OF(i,EF)=OF(i+1,EF) pour tous les EF
   • pour i>2 OF(i,EF’)=OF(i,EF )*EF’/EF
   • pour i=1 OF(i,EF’)=OF(i,EF )
   La relation sélectionnée devrait être respectée à l’issue de la modification
3. Pour toutes les entrées modifiées à l’étape 2, répétez toute la procédure en localisant leurs voisins encore non modifiés.

La propagation des changements semble inévitable si l’on se rappelle que la fonction des intervalles optimaux dépend de paramètres tels que :

• la capacité de l’étudiant
• les habitudes d’auto-évaluation de l’étudiant (la qualité de la réponse est donnée selon l’opinion subjective de l’étudiant)
• la nature des connaissances mémorisées, etc.

Il est donc impossible de fournir une matrice OF idéale et prédéterminée qui se dispenserait du processus de modification-vérification et, à un degré moindre, des schémas de propagation.

Dispersion aléatoire des intervalles

L’une des améliorations clés de l’algorithme SM-5 fut la dispersion aléatoire des intervalles. D’une part, elle a considérablement accéléré le processus d’optimisation ; d’autre part, elle a semé une grande confusion chez les utilisateurs de presque toutes les versions ultérieures de SuperMemo : « pourquoi les mêmes éléments, avec la même note, utilisent-ils un intervalle différent à chaque essai ? ». Les écarts mineurs sont précieux. Cela s’est révélé au grand jour lorsque l’ algorithme SM-17 « nu » a été publié dans les premières versions de SuperMemo 17. On a pu observer que les utilisateurs conservant de nombreuses sangsues dans leurs collections tombaient facilement dans des « minima locaux » dont ils ne pouvaient plus sortir. La dispersion aléatoire a été restaurée avec un certain retard. Cette période de « nudité » était nécessaire pour observer précisément l’algorithme, en particulier dans un processus d’apprentissage s’étalant sur plusieurs décennies comme le mien.

Avertissement d’archive : pourquoi utiliser des archives littérales ?

3.5. Dispersion aléatoire des intervalles optimaux

Pour améliorer davantage le processus d’optimisation, un mécanisme a été introduit qui peut sembler contredire le principe d’espacement optimal des répétitions. Reconsidérons un défaut important de l’algorithme SM-5 : une modification d’un facteur optimal ne peut être vérifiée dans sa justesse qu’une fois les conditions suivantes remplies :

• le facteur modifié est utilisé dans le calcul d’un intervalle inter-répétitions
• l’intervalle calculé s’écoule et une répétition est effectuée, produisant une qualité de réponse qui indique éventuellement la nécessité d’augmenter ou de diminuer le facteur optimal

Cela signifie que même un grand nombre d’occurrences utilisées dans la modification d’un facteur optimal ne le fera pas changer de manière significative avant que la valeur nouvellement calculée ne soit utilisée pour déterminer de nouveaux intervalles et vérifiée après leur écoulement.

Le processus de vérification des facteurs optimaux modifiés, après la période nécessaire pour les appliquer dans les répétitions, sera appelé plus loin le cycle de modification-vérification. Plus le numéro de répétition est élevé, plus le cycle de modification-vérification est long, et plus le ralentissement du processus d’optimisation est important.

Pour illustrer le problème de la contrainte de modification, considérons les calculs de la figure 3.4.

On peut facilement conclure que pour la variable INTERVAL_USED supérieure à 20, la valeur de MOD5 sera égale à 1,05 si QUALITY est égal à 5. Comme QUALITY=5, MODIFIER sera égal à MOD5, soit 1,05. Par conséquent, la nouvelle valeur proposée pour le facteur optimal (NEW_OF) ne peut être supérieure que de 5 % à la précédente (NEW_OF:=USED_OF*MODIFIER). Ainsi, le facteur optimal modifié n’ira jamais au-delà de cette limite de 5 %, sauf si USED_OF augmente, ce qui équivaut à appliquer le facteur optimal modifié dans le calcul des intervalles inter-répétitions.

Compte tenu de ces faits, j’ai décidé de laisser, dans certains cas, les intervalles inter-répétitions différer des intervalles optimaux afin de contourner la contrainte imposée par le cycle de modification-vérification.

J’appellerai ce processus de modification aléatoire des intervalles optimaux la dispersion.

Si l’on autorise une petite fraction des intervalles à être plus courts ou plus longs que ce que la matrice OF indiquerait, ces intervalles déviants peuvent accélérer les changements des facteurs optimaux en leur permettant de baisser ou d’augmenter au-delà des limites du mécanisme présenté à la figure 3.4. En d’autres termes, lorsque la valeur d’un facteur optimal est très différente de la valeur souhaitée, son changement accidentel provoqué par des intervalles déviants ne sera pas neutralisé par le flux des répétitions standard, car les qualités de réponse favoriseront plutôt le changement qu’elles ne s’y opposeront.

Un autre avantage de l’utilisation d’intervalles distribués autour des intervalles optimaux est l’élimination d’un problème qui a souvent fait l’objet de plaintes des utilisateurs de SuperMemo : l’irrégularité du calendrier de répétition. Par « irrégularité du calendrier de répétition », j’entends l’accumulation de travail de répétition certains jours, tandis que les jours voisins restent relativement peu chargés. Cela s’explique par le fait que les étudiants mémorisent souvent un grand nombre d’éléments en une seule session, et ces éléments ont tendance à rester groupés au cours des mois suivants, ne se séparant que sur la base de leurs facteurs E.

La dispersion des intervalles autour des valeurs optimales élimine le problème de l’irrégularité. Examinons maintenant les formules appliquées par le logiciel SuperMemo le plus récent pour disperser les intervalles autour de la valeur optimale. Les intervalles inter-répétitions qui diffèrent légèrement de ceux considérés comme optimaux (selon la matrice OF) seront appelés intervalles quasi-optimaux. Ces intervalles quasi-optimaux seront calculés selon la formule suivante :

NOI=PI+(OI-PI)*(1+m)

où :

• NOI – intervalle quasi-optimal
• PI – intervalle précédent utilisé
• OI – intervalle optimal calculé à partir de la matrice OF (cf. algorithme SM-5)
• m – un nombre appartenant à l’intervalle <-0,5, 0,5> (voir ci-dessous)

ou en utilisant la valeur OF :

NOI=PI*(1+(OF-1)*(1+m))

Le modificateur m déterminera le degré d’écart par rapport à l’intervalle optimal (écart maximal pour les valeurs m=-0,5 ou m=0,5, et aucun écart pour m=0).

Afin de trouver un compromis entre, d’une part, l’optimisation accélérée et l’élimination de l’irrégularité (les deux exigeant un espacement de répétition fortement dispersé) et, d’autre part, une rétention élevée (exigeant une application stricte des intervalles optimaux), le modificateur m devrait avoir une valeur proche de zéro dans la plupart des cas.

Les formules suivantes ont été utilisées pour déterminer la fonction de distribution du modificateur m :

• la probabilité de choisir un modificateur dans l’intervalle <0, 0,5> devrait être égale à 0,5 :intégrale de 0 à 0,5 de f(x)dx=0,5
• la probabilité de choisir un modificateur m=0 a été supposée cent fois plus élevée que la probabilité de choisir m=0,5 :f(0)/f(0,5)=100
• la fonction de densité de probabilité a été supposée avoir une forme exponentielle négative, avec les paramètres a et b à déterminer à partir des deux équations précédentes :f=a*exp(-b*x)

Les formules ci-dessus donnent les valeurs a=0,04652 et b=0,09210 pour m exprimé en pourcentage.

À partir de la fonction de distribution

intégrale de -m à m de a*exp(-b*abs(x))dx = P (P désigne la probabilité)

on peut obtenir la valeur du modificateur m (pour m>=0) :

m=-ln(1-b/a*P)/b

Ainsi, la procédure finale pour calculer l’intervalle quasi-optimal se présente comme suit :

a:=0.047;

b:=0.092;

p:=random-0.5;

m:=-1/b*ln(1-b/a*abs(p));

m:=m*sgn(p);

NOI:=PI*(1+(OF-1)*(100+m)/100);

où :

• random – fonction produisant des valeurs dans l’intervalle <0,1) selon une distribution de probabilité uniforme
• NOI – intervalle quasi-optimal
• PI – intervalle précédemment utilisé
• OF – entrée pertinente de la matrice OF

1990 : une formule universelle pour la mémoire

Révision optimale contre révision intermittente

En 1990, je n’avais plus aucun doute. Je tenais entre les mains une découverte majeure. J’avais percé le problème de l’ oubli. Je connaissais le calendrier optimal de révision pour les souvenirs simples. Une fois obtenue l’autorisation de décrire mes découvertes dans mon mémoire de maîtrise, mon appétit de découverte n’a cessé de croître. J’espérais trouver une formule universelle pour la mémoire à long terme. Une formule qui m’aiderait à suivre le comportement de la mémoire pour n’importe quel schéma d’exposition ou de récupération.

J’avais déjà rassemblé des données susceptibles de m’aider à trouver cette formule. Avant de découvrir l’espacement optimal des répétitions en 1985, j’utilisais des pages de questions pour réviser mes connaissances. La révision était chaotique et déterminée par la disponibilité de temps, le besoin, ou l’humeur du moment. J’appelais cela l’«  apprentissage intermittent ». J’avais des données de rappel pour chaque page et pour chaque révision. C’était le type idéal de données, dépourvues de la périodicité propre à SuperMemo. Exactement le genre de données nécessaires pour résoudre le problème de la mémoire. Cependant, je n’avais ces données que sur papier.

Au printemps 1990, j’ai recruté ma sœur pour faire la saisie. Non, je n’ai pas de petite sœur qui aurait fait cela avec enthousiasme. Ma sœur avait 17 ans de plus que moi. Un peu inconsidéré à l’époque, j’ai profité de son affection pour lui faire faire ce travail ingrat. Je m’en sens coupable. Elle est décédée seulement deux ans plus tard. Je n’ai jamais eu l’occasion de lui rendre ce qu’elle avait apporté à la théorie de la répétition espacée, qu’elle n’a d’ailleurs jamais eu la chance de comprendre. À partir du 1er mai 1990, elle a mis à profit mes moments d’absence de l’ordinateur pour transférer les données du papier vers la machine. Cela lui a pris de nombreux jours de saisie laborieuse. Cela en valait la peine.

Modèle d’apprentissage intermittent

Tout au long de l’été 1990, au lieu de me concentrer sur mon mémoire de maîtrise, j’ai travaillé sur le «  modèle d’apprentissage intermittent ». Il n’était pas rare que je travaille dix heures d’affilée, que j’aille me coucher à 7 heures du matin sans résultat, ou que je laisse l’ordinateur tourner toute la nuit à traiter des chiffres.

La persévérance et le bricolage sont payants. Seuls les adolescents peuvent se le permettre, et on devrait leur laisser l’espace et la liberté pour cela. Bien qu’ayant 28 ans, j’étais plutôt bien toléré à la maison. Comme un adolescent immature. Je vivais dans l’appartement de ma sœur, où je pouvais profiter de sa gentillesse. Mes longues heures devant l’ordinateur étaient excusées comme «  travail sur mon mémoire de maîtrise ». En vérité, personne ne me l’avait demandé, personne ne l’exigeait, et cela ne faisait même pas beaucoup avancer SuperMemo. C’était pure curiosité scientifique. Je voulais simplement comprendre comment fonctionne la mémoire.

J’avais des dizaines de pages de questions et leur historique de répétition. J’ai essayé de prédire les « lapsus de mémoire par page ». J’ai utilisé l’ écart quadratique moyen pour la prédiction des lapsus (noté ci-dessous Dev

). Le 10 juillet 1990, un mardi, j’ai atteint Dev<3 et j’ai eu le sentiment que le problème était presque « résolu ». Le 12 juillet 1990, j’ai amélioré ce résultat à Dev=2,877 (par ailleurs, mon mémoire mentionne 2,887241). Cependant, le 27 août 1990, j’ai déclaré le problème insoluble. Mes notes de ce jour disent :

Anecdote personnelle. Pourquoi utiliser des anecdotes ?

27 août 1990 : j’ai résolu le problème de l’apprentissage intermittent en montrant qu’il était insoluble ! Un seul paramètre n’est pas capable de décrire la force de la mémoire relative à toute une page d’éléments. Cela montre qu’ il n’existe pas d’ intervalles optimaux pour les éléments à faible facteur E !

Le 30 août 1990, j’ai décrit le modèle pour mon mémoire de maîtrise. Le texte couvrait 15 pages qui ne font pas une lecture agréable. Je parie que personne n’a jamais eu la patience de tout lire. Ce chapitre n’a même jamais été publié sur supermemo.com lorsque mon mémoire de maîtrise a été mis en ligne, par extraits, à la fin des années 1990.

Cependant, les conclusions tirées de ce modèle ont eu une influence profonde sur ma réflexion sur la mémoire au cours des décennies qui ont suivi. L’idée même de ce modèle rappelle d’ailleurs les optimisations utilisées pour élaborer l’ algorithme SM-17 (2014-2016).

Lorsque j’ai déclaré le problème insoluble, je voulais dire que je ne pouvais pas décrire avec précision la mémoire des « pages difficiles », car les matériaux hétérogènes exigent des modèles plus complexes. Cependant, mes notes du 31 août 1990 sonnent bien plus optimistes :

Anecdote personnelle. Pourquoi utiliser des anecdotes ?

31 août 1990 : travail sans relâche sur le modèle d’apprentissage intermittent. Toute la nuit, l’ordinateur n’a pas réussi à me rapprocher de la solution. Cependant, j’ai eu une excellente idée : calculer les intervalles optimaux à l’aide de la fonction record du modèle IL. Quand j’ai vu les résultats sur l’écran, je n’ai pas pu croire mes [censuré] yeux. C’étaient exactement les mêmes intervalles que j’avais trouvés en 1985 en essayant de formuler la méthode SuperMemo. J’étais heureux comme un chien à deux queues, sautant partout dans la maison. Je peux donc dire que j’ai vraiment résolu le problème de l’IL (comparer avec le 27 août 1990). Mais ce succès n’était pas tout ce qu’il m’était donné de découvrir ce jour-là. J’ai découvert que :

• les facteurs optimaux diminuent avec les intervalles successifs (j’avais déjà l’intuition qu’il en était ainsi),
• pour un indice d’oubli égal à 10 %, la rétention est de 94 % (comme dans la base de données EVF)
• la rétention est en relation linéaire avec l’ indice d’oubli [commentaire de 2018 : sur une petite plage, pour du matériel hétérogène] (cela n’avait pas pu être calculé à partir de mes expériences de simulation menées en janvier)
• le modèle indique que la valeur souhaitable de l’ indice d’oubli est de 5 à 10 % (compromis charge de travail-rétention)
• la force de la mémoire augmente le plus si l’intervalle est deux fois plus long que l’intervalle optimal !!!
• la force de la mémoire augmente le plus si l’ indice d’oubli est de 20 %.

[…] mes formules ne fonctionnent que lorsque les intervalles ne sont pas beaucoup plus courts que la force précédente.

Passé (1990) vs présent (2018)

Les conclusions à la fin du chapitre, ainsi que la procédure elle-même, rappellent la méthodologie que j’ai employée en 2005, lorsque je cherchais la formule universelle pour l’augmentation de la stabilité de la mémoire, puis en 2014, lorsque l’algorithme SM-17 a été fondé sur une description mathématique de la mémoire bien plus précise. Tout comme le tout dernier algorithme de SuperMemo, ce modèle permettait de calculer la rétention pour n’importe quel calendrier de répétitions. Naturellement, il était bien moins précis, car fondé sur des données de moindre qualité. De plus, ce que SuperMemo 17 accomplit aujourd’hui en temps réel exigeait, en 1990, de nombreuses heures de calcul.

Cette vieille partie, en apparence ennuyeuse, de mon mémoire de maîtrise a depuis gagné en importance. J’ose dire que seules des données de moindre qualité séparaient ce travail de l’algorithme SM-17, qui n’a vu le jour que 25 longues années plus tard. Je cite le texte avec de légères améliorations de notation et de style, sans le chapitre sur les courbes d’oubli, qui s’est révélé erroné en raison de la très grande hétérogénéité du matériel utilisé dans les calculs :

Avertissement sur les archives : pourquoi conserver des archives littérales ?

Ce texte fait partie de : « Optimization of learning » par Piotr Wozniak (1990)

Modèle de l’apprentissage intermittent

Le modèle SuperMemo fournit une base pour le calcul des intervalles optimaux qui doivent séparer les répétitions dans le processus d’apprentissage temporellement optimal.

Il ne permet cependant pas de prédire l’évolution des variables mnésiques lorsque les répétitions se font à intervalles irréguliers.

Je présente ci-dessous une tentative d’enrichir le modèle SuperMemo afin qu’il puisse être utilisé pour décrire le processus d’apprentissage intermittent.

Au chapitre 3, j’ai évoqué la façon dont j’avais appris l’anglais et la biologie avant que l’algorithme SM-0 ne soit mis au point.

Les données recueillies durant cette période (1982-1984) constituent une excellente base pour la construction du modèle de l’apprentissage intermittent. Les éléments, formulés conformément au principe d’information minimale (généralement sous la forme de paires de mots), étaient regroupés en pages soumises à un processus de répétition irrégulier. Les données recueillies, disponibles sous forme lisible par ordinateur, comprennent la description des répétitions de 71 pages, ainsi que celles de 80 pages similaires participant à un processus supervisé selon le calendrier SM-0.

Similitude avec l’algorithme SM-17

Notez que la formulation du problème rappelle la procédure utilisée pour calculer la matrice d’augmentation de la stabilité (SInc[]) dans l’algorithme SM-17. La stabilité de la mémoire a été redimensionnée pour pouvoir être interprétée comme un intervalle. Même les symboles se ressemblent : S et la déviation D, les lapsus de page se substituant à R.

J’adorais jouer avec divers algorithmes d’optimisation. Vous pouvez encore observer visuellement dans SuperMemo 17 comment l’algorithme exécute des optimisations d’ajustement de surface (voir l’image). Procéder ainsi avec 12 variables n’était peut-être pas très efficace, mais je ne me suis jamais soucié de la méthode tant que j’obtenais des résultats intéressants offrant de nouvelles perspectives sur le fonctionnement de la mémoire.

Pour ceux qui connaissent l’algorithme SM-17, nous avons modifié la notation dans le texte ci-dessous. De plus, des symboles comme In et Ln, une fois imprimés, pouvaient facilement être confondus avec des logarithmes.

Liste des modifications :

• Ln -> Laps _n
• In -> Int _n
• Dn -> Dev _n
• R -> RepNo

Formulation du problème de l’apprentissage intermittent

Avertissement sur les archives : pourquoi conserver des archives littérales ?

11.1. Formulation du problème de l’apprentissage intermittent

1. Il y a 161 pages.
2. Chaque page contient environ 40 éléments.
3. Pour chaque page, la description du processus d’apprentissage (recueillie au cours des répétitions expérimentales) prend la forme suivante :
4. Int _i – intervalle entre répétitions utilisé avant la i-ème répétition (il varie de 1 à 800),
5. Laps _i – nombre de lapsus de mémoire survenus lors de la i-ème répétition (il varie de 0 à 40),
6. n – nombre total de répétitions (il varie de 3 à 20).
7. Trouver les fonctions f et g décrites par les formules :
8. S(n) – toute variable correspondant à la force de la mémoire après la n-ème répétition (comparer avec le chapitre 10),
9. Int _n – intervalle utilisé avant la n-ème répétition ; tiré des données recueillies pendant l’apprentissage intermittent,
10. Laps _n – nombre de lapsus de mémoire lors de la n-ème répétition ; tiré des données recueillies pendant l’apprentissage intermittent,
11. Laps(n) – estimation du nombre de lapsus de mémoire lors de la n-ème répétition (elle doit correspondre à Laps _n)
12. S1 – une constante,
13. Dev – fonction décrivant la différence entre les valeurs produites par les fonctions f et g et les valeurs recueillies pendant l’apprentissage intermittent (elle reflète l’écart entre les données expérimentales et les données prédites théoriquement)
14. RepNo – nombre total de répétitions enregistrées sur toutes les pages
15. Dev _i – composante de la fonction Dev décrivant l’écart pour la i-ème page,
16. Laps(j) – nombre de lapsus calculé pour la i-ème page et la j-ème répétition à l’aide des fonctions f et g,
17. Laps _j – nombre de lapsus de mémoire pour la i-ème page et la j-ème répétition ; tiré des données recueillies pendant l’apprentissage intermittent,
18. sqrt(x) – racine carrée de x,
19. sqr(x) – carré de x.

Notez que les fonctions f et g n’offriront une base utile à de précieuses considérations biologiques que si elles sont simples et définies par un nombre limité de paramètres (par exemple a*ln()+b ou a*exp()+b, etc.). Sinon, on pourrait toujours construire une formule gigantesque et dénuée de sens pour ramener automatiquement Dev à zéro.

Solution au problème de l’apprentissage intermittent

Avertissement sur les archives : pourquoi conserver des archives littérales ?

11.2. Solution au problème de l’apprentissage intermittent

Pour rechercher les fonctions f et g minimisant la valeur de Dev, j’ai utilisé une procédure de minimisation numérique décrite dans Wozniak, 1988b [ A new algorithm for finding local maxima of a function within the feasible region. Credit paper ].

Voici un exemple de fonctions utilisées lors de la recherche :

S(1)=x[1]

S(n)=x[2]*Int _n*exp(-Laps _n*x[3])+x[4])

Laps(n)=x[5]*(1-exp(-Int _n/S(n-1)))

où :

• x[i] – variables calculées par la procédure de minimisation,
• S(n), Laps(n), Laps _n et Int _n – tels que définis en 11.1.

Notez que la fonction f décrivant S(n) n’utilise pas S(n-1) comme argument (la formulation du problème permet, sans l’exiger, que la nouvelle force soit calculée à partir de la force précédente).

Pour préserver la simplicité et gagner du temps, j’ai fixé une limite de 12 variables utilisées dans le processus de minimisation.

J’ai testé une vaste gamme de fonctions mathématiques construites conformément à des intuitions évidentes concernant la mémoire (par exemple, qu’avec le temps qui passe, le nombre de lapsus de mémoire augmente).

Celles-ci comprenaient des fonctions exponentielles, logarithmiques, puissances, hyperboliques, sigmoïdes, en cloche, polynomiales, ainsi que des combinaisons raisonnables de ces dernières.

Dans la plupart des cas, la procédure de minimisation ramenait la valeur de Dev à moins de 3, et les fonctions f et g adoptaient une forme similaire, indépendamment de leur nature.

La valeur la plus basse de Dev obtenue avec moins de 12 variables était de 2,887241.

Les fonctions f et g étaient les suivantes :

constant S(1)=0.2104031;

function Sn(Intn,Lapsn,S(n-1));
begin
   S(n):=0.4584914*(Intn+1.47)*exp(-0.1549229*Lapsn-0.5854939)+0.35;
   if Lapsn=0 then
       if S(n-1)>In then
           S(n):=S(n-1)*0.724994
       else
           S(n):=Intn*1.1428571;
end;

function Lapsn(Intn,S(n-1));
var quot;
begin
   quot:=(Intn-0.16)/(S(n-1)-0.02)+1.652668;
   Lapsn:=-0.0005408*quot*quot+0.2196902*quot+0.311335;
end;

Sans modifier de façon significative la valeur de Dev, ces fonctions peuvent être facilement converties sous la forme suivante :

S(1)=1

pour Int _n>S(n-1) : S(n)=1.5*Int _n*exp(-0.15*Laps _n)+1

Laps(n)=Int _n/S(n-1)

Notez que :

• certains éléments de la fonction ont été supprimés ou arrondis lorsque cette opération n’affectait pas sensiblement la valeur de Dev,
• la force a été redimensionnée pour pouvoir être interprétée comme un intervalle pour lequel le nombre de lapsus est égal à 1 et l’ indice d’oubli est égal à 2,5 % (il y a 40 éléments par page et 1/40=2,5 %),
• la formule de la force n’est valide que si Int _n n’est pas nettement inférieur à S(n-1). Cela s’explique par le fait que la valeur S(n-1) doit être utilisée dans le calcul de S(n) lorsque le nombre de lapsus est faible, par exemple pour Int _n<=S(n-1) : S(n)=S(n-1)*(1+0.5/(1-exp(S(n-1))*(1-exp(-Int _n)))

La fonction g n’implique volontairement pas S(n-1), afin d’éviter une accumulation récursive d’erreurs dans les calculs des répétitions successives (notez que la formule utilisée ne tient pas compte de l’historique du processus),

• les formules ne peuvent pas décrire un processus dans lequel les intervalles seraient plusieurs fois plus longs que les intervalles optimaux. Cela s’explique par le fait que pour Int _n->?, la valeur de Laps(n) dépasse 100 %,
• les formules décrivent l’apprentissage d’éléments collectifs caractérisés par une distribution plus ou moins uniforme des facteurs E. Elles ne peuvent donc pas être utilisées universellement pour des éléments de difficulté variable.

Pour l’instant, les formules ci-dessus constituent la meilleure description du processus d’apprentissage intermittent ; on les désignera plus loin par l’expression « modèle de l’apprentissage intermittent » (modèle IL en abrégé).

Simulations fondées sur le modèle de l’apprentissage intermittent

Grâce à la formule trouvée ci-dessus, j’ai pu mener toute une série d’expériences de simulation qui m’ont aidé à répondre à de nombreux scénarios hypothétiques sur le comportement de la mémoire dans diverses circonstances. Ces simulations ont façonné l’évolution de SuperMemo pendant de nombreuses années. En particulier, le compromis entre la charge de travail et la rétention a joué un rôle majeur dans l’optimisation de l’apprentissage depuis SuperMemo 6 (1991). Jusqu’à aujourd’hui, c’est l’ indice d’oubli (ou la récupérabilité) qui fournit le critère directeur de l’apprentissage, et non l’intuitivement naturelle augmentation de la stabilité de la mémoire, qui peut survenir à des niveaux de rappel plus faibles. Un niveau fixé de lapsus de mémoire jouait ci-dessous le rôle de l’ indice d’oubli.

Avertissement sur les archives : pourquoi conserver des archives littérales ?

11.4. Vérification du modèle de l’apprentissage intermittent

Pour vérifier la cohérence du modèle de l’apprentissage intermittent avec la théorie de SuperMemo, essayons de calculer les intervalles optimaux qui doivent séparer les répétitions.

L’intervalle optimal sera déterminé par le moment où le nombre de lapsus atteint une valeur choisie Laps _o.

L’algorithme se déroule comme suit :

1. i:=1
2. S(i):=1
3. Trouver Int(i+1) tel que Laps(i+1) soit égal à Laps _o. Utiliser la formule :
   Int(n)=Laps _o*S(n-1) (tirée du modèle IL)
   où : Int(n) désigne l’intervalle optimal n-1.
4. i:=i+1
5. S(i):=1.5*Int(i)*exp(-0.15*Laps _o)+1 (tirée du modèle IL)
6. aller à 3

Si Laps _o est égal à 2,5 ( indice d’oubli de 6,25 %) et que la variante exacte du modèle de l’apprentissage intermittent est utilisée, on observe alors une correspondance étonnante (comparer avec l’expérience présentée à la page 16, chapitre 3.1 ) :

• Rép – numéro de la répétition
• Intervalle – intervalle optimal précédant la répétition, déterminé par Laps _o=2,5 sur la base du modèle IL,
• Facteur – facteur optimal égal au quotient de l’intervalle optimal et de l’intervalle optimal utilisé précédemment,
• SM-0 – intervalle optimal calculé sur la base des expériences ayant conduit à l’algorithme SM-0

Il va sans dire que cette correspondance exacte est, dans une certaine mesure, une coïncidence, car l’expérience ayant conduit à la formulation de l’algorithme SM-0 n’était pas d’une telle sensibilité.

Il est intéressant de noter que les facteurs optimaux ont tendance à diminuer progressivement ! Ce constat semble confirmer des observations récentes fondées sur l’analyse de la matrice des facteurs optimaux utilisée dans l’algorithme SM-5.

Si Laps _o est égal à 4 ( indice d’oubli de 10 %, comme dans l’algorithme SM-5), la séquence des facteurs optimaux rappelle une colonne de la matrice OF de l’algorithme SM-5. La rétention des connaissances correspond elle aussi presque parfaitement à celle observée dans les bases de données de SM-5.

La valeur de rétention a été obtenue en calculant la moyenne de sa valeur pour chaque jour du processus optimal :

R=(R(1)+R(2)+…+R(n))/n

R(d)=100-2.5*Laps(d-dlr)

où :

• R – rétention moyenne
• R(d) – rétention au d-ème jour du processus
• Laps(Int) – nombre attendu de lapsus après l’intervalle I
• dlr – jour du processus où la dernière répétition a été programmée

Compromis entre charge de travail et rétention

Malgré les imprécisions dues à l’hétérogénéité du matériel, il a été possible de tirer une conclusion solide sur l’impact de l’ indice d’oubli sur le temps qu’il faut investir dans l’apprentissage. Ces observations ont résisté à l’épreuve du temps :

Avertissement sur les archives : pourquoi conserver des archives littérales ?

Ce texte fait partie de : « Optimization of learning » par Piotr Wozniak (1990)

Des conclusions très intéressantes peuvent être tirées en comparant les données de rétention et de charge de travail calculées à l’aide du modèle de l’apprentissage intermittent :

• Indice – indice d’oubli (Laps _o*2,5) déterminant les intervalles optimaux dans le processus d’apprentissage temporellement optimal programmé à l’aide du modèle IL
• Rétention – rétention globale obtenue avec l’ indice d’oubli donné (calculée après écoulement de 10 000 jours)
• Répétitions – nombre de répétitions programmées durant les 10 000 premiers jours du processus avec l’ indice d’oubli donné,
• Facteur – valeur asymptotique du facteur optimal (relevée au 10 000e jour du processus)

La figure 11.2 montre que l’ indice d’oubli utilisé pour déterminer les intervalles optimaux devrait se situer dans une fourchette de 5 à 10 %.

Fig. 11.2. Compromis charge de travail–rétention : D’une part, si l’ indice d’oubli est inférieur à 5 %, la charge de travail augmente considérablement sans affecter réellement la rétention. D’autre part, au-delà d’un indice d’oubli de 10 %, la charge de travail varie peu tandis que la rétention chute régulièrement. Ce compromis charge de travail–rétention correspond évidemment directement à l’arbitrage entre le rythme d’acquisition et la rétention. En multipliant par X la disponibilité en temps (c’est-à-dire en divisant la charge de travail par X), on peut multiplier le rythme d’acquisition par X (comparer chapitre 5). Notons que la relation entre l’ indice d’oubli et la rétention dans ce modèle est presque linéaire. (source : Optimization of learning : Model of intermittent learning , Piotr Wozniak, 1990)

Une autre observation importante provient du calcul de l’ indice d’oubli pour lequel l’augmentation de la force est la plus élevée.

Du modèle d’apprentissage intermittent, il découle que

S(n)=1.5*Laps(n)*S(n-1)*exp(-0.15*Laps(n))+1

En dérivant par rapport à la variable Laps(n), on obtient :

S'(n)=1.5*S(n-1)*exp(-0.15*Laps(n))*(1-0.15*Laps(n))

Enfin, en posant cette dérivée égale à zéro, on obtient :

Laps(n)=7.8

ce qui correspond à un indice d’oubli égal à 20 % ! Un tel indice d’oubli équivaut à des intervalles deux fois plus longs que les intervalles optimaux déterminés par un indice égal à 10 % (comme dans l’algorithme SM-5). Il ne faut cependant pas oublier que c’est la rétention des connaissances, et non la force de la mémoire, qui est le seul facteur mis en balance avec la charge de travail. Cette constatation n’invalide donc pas la pertinence de l’algorithme SM-5.

Conclusions : modèle d’apprentissage intermittent

Les conclusions finales tirées à la fin du chapitre ont résisté à l’épreuve de trois décennies. Seule l’affirmation selon laquelle les courbes d’oubli ne seraient pas exponentielles s’est révélée inexacte. Comme l’ensemble du modèle reposait sur des données hétérogènes, la nature exponentielle de l’oubli ne pouvait pas se révéler.

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

Ce texte fait partie de : « Optimization of learning » par Piotr Wozniak (1990)

Résumé intermédiaire

• Le modèle d’apprentissage intermittent a été construit pour permettre d’estimer la rétention des connaissances selon différents calendriers de répétition
• Le modèle indique fortement que la courbe d’oubli n’est pas exponentielle [ erreur : voir Exponential nature of forgetting]
• Le modèle correspond de manière satisfaisante aux données expérimentales
• Avec une précision frappante, le modèle se rapproche des intervalles optimaux et de la rétention des connaissances impliqués par le modèle SuperMemo
• Le modèle indique que les facteurs optimaux diminuent au fil des répétitions successives et se rapprochent asymptotiquement de leur valeur finale
• Le modèle indique que la valeur souhaitable de l’ indice d’oubli utilisée pour un apprentissage optimal en temps devrait se situer entre 5 % et 10 %
• Le modèle indique une relation presque linéaire entre l’indice d’oubli et la rétention des connaissances
• Le modèle montre que l’augmentation la plus forte de la force de la mémoire se produit lorsque les intervalles sont environ deux fois plus longs que ceux utilisés dans la méthode SuperMemo. Cela équivaut à un indice d’oubli égal à 20 %

1991 : exploiter les courbes d’oubli

La naissance douloureuse de SuperMemo World (1991)

1991 a été l’année la plus importante depuis la naissance de SuperMemo. Ce fut une année de grandes décisions, de stress, de drame, de découvertes et de travail acharné. Au début de l’année, il y avait trois grands croyants en SuperMemo : Biedalak, Murakowski et moi-même. Nous étions tous trois au même carrefour de nos vies : passant des années d’insouciance universitaire à l’incertitude de l’âge adulte indépendant. Naturellement, nous rêvions tous de grande science aux États-Unis : Biedalak rêvait d’intelligence artificielle, Murakowski de physique quantique, et moi je voulais percer les secrets de la mémoire moléculaire. Avec le recul, les étudiants diplômés du bloc de l’Est munis de bons relevés de notes, de bons résultats d’examens et de recommandations solides comme le roc sont plutôt bien accueillis aux États-Unis. Les choses se compliquent lorsqu’ils demandent un soutien financier complet. Je n’avais pas un sou. De plus, les Européens de l’Est zélés étaient souvent traités comme une main-d’œuvre docile. Le zèle pour leurs propres projets et grandes idées était peut-être moins bien accueilli. Je ne le saurai jamais. Les trois croyants avaient chacun une vision différente de SuperMemo.

Le 3 janvier 1991, j’ai commencé la mise en œuvre du nouvel algorithme de répétition espacée pour SuperMemo 6. Le même jour, Murakowski est parti pour Londres où il allait poursuivre ses rêves d’études tout en essayant de vendre SuperMemo 2. Il ne le vendrait pas via un canal de distribution ou en boutique. Il devrait aller de personne en personne, expliquer les mérites du programme et, espérait-il, récolter quelques dollars pour garder l’espoir en vie.

Pendant ce temps, Biedalak et moi nous retrouvions régulièrement pour un jogging de 10 km, combiné à de la baignade hivernale et à une séance de réflexion sur le chemin du retour. Nous parlions surtout d’études aux États-Unis et de la vente de SuperMemo. De plus en plus fréquemment, l’idée de créer notre propre entreprise commençait à émerger.

J’ai commencé mon travail sur le nouvel algorithme de répétition espacée avec quelques idées qui allaient changer SuperMemo pour toujours. L’algorithme SM-6, utilisé dans SuperMemo 6, fut une percée qui alimenterait le développement pendant les 25 années suivantes. Il reprendrait la simple procédure expérimentale qui avait conduit à la répétition espacée en 1985, mais de manière automatisée. Il collecterait des données de performance et choisirait le meilleur moment pour la révision : il tracerait la courbe d’oubli de l’utilisateur. Cela signifierait aussi que l’utilisateur pourrait décider de la probabilité d’oubli acceptable pour chaque élément (c’est-à-dire le niveau optimal du compromis rétention-charge de travail).

À cette époque, j’étais encore limité par des disquettes de 360 Ko. Pour cette raison, SuperMemo ne pouvait toujours pas conserver tous les historiques de répétitions qui auraient reproduit intégralement l’approche de 1985 à grande échelle. Cependant, le 6 janvier 1990, j’ai eu une idée simple. Je pouvais simplement collecter des données sur les courbes d’oubli pour des catégories d’éléments de difficulté et de stabilité différentes. Au lieu de l’enregistrement complet, je ne mettrais à jour que l’approximation du nombre d’éléments d’une catégorie donnée retenus en mémoire à un instant donné (c’est-à-dire à un niveau donné de récupérabilité). Cette idée survit encore aujourd’hui au cœur de SuperMemo. Même avec l’enregistrement complet des historiques de répétitions dont on dispose aujourd’hui, SuperMemo connaît toujours instantanément la récupérabilité attendue des éléments d’une catégorie donnée.

À ce carrefour de ma vie, j’étais enfin libéré de l’école. Il existe une émotion puissante que des millions d’adolescents et de jeunes adultes traversent : le passage traumatisant du statut d’esclave appelé « élève » ou « étudiant » à la liberté de devenir un « adulte sans emploi ». Le choc psychologique peut être encore plus brutal quand on passe de « bon étudiant » à « chômeur de 28 ans vivant chez sa mère ». Comme un interrupteur : le monde entier semble basculer d’un soutien enjoué à une condamnation morose mêlée de pitié.

J’ai continué à apprendre et à travailler sur de nouvelles idées pour SuperMemo dans une atmosphère de liberté mêlée d’incertitude. Pour moi, l’incertitude est un stimulant. Cependant, le 12 février 1991, j’ai appris que ma mère avait été diagnostiquée d’un cancer en phase terminale. Au mélange de liberté et d’incertitude s’est ajouté un sentiment de morosité. Pour moi, encore une fois, la morosité peut aussi être un stimulant. J’ai triplé mon apprentissage sur le cancer, comme dans l’espoir de trouver moi-même une thérapie miracle. Cela montre à quel point un optimisme déraisonnable peut être la clé de la productivité et permettre de survivre aux moments difficiles. En travaillant plus dur, je pouvais dissiper la morosité. Une haute productivité est un antidépresseur sûr. Mon travail acharné ne laissait aucune place aux pensées sombres. J’étais confiant, j’allais guérir ma mère !

Par ailleurs, au moment du diagnostic de ma mère, j’écrivais aussi un programme pour simuler le comportement optimal de la mémoire en réponse à l’environnement ; une façon de prouver quelles mathématiques rendraient optimal le modèle à deux composantes de la mémoire. Au moment du diagnostic, j’ai retiré cet effort de mon emploi du temps pour me consacrer à l’apprentissage sur le cancer. Je n’ai jamais achevé ce programme et cette idée demeure encore aujourd’hui en suspens, repoussée par d’autres projets.

Le 6 mars 1991, lors d’une de nos journées de jogging et de réflexion avec Biedalak, quelqu’un a lancé le nom SuperMemo World. Nous ne savions pas encore que quatre mois plus tard, ce serait le nom de notre entreprise, qui perdure encore aujourd’hui, 27 ans plus tard.

Le 12 mars 1991, j’ai effectué mes premières répétitions avec le nouvel algorithme dans SuperMemo 6 pendant que ma mère se reposait sur son lit de mort. Une semaine plus tard, elle mourut paisiblement dans son sommeil, à l’âge de 70 ans seulement. Dans des circonstances semblables, le scénario habituel implique des réunions de famille, un deuil, des funérailles, et tout un cortège de traditions ancrées dans la religion que je n’ai jamais pu accepter comme rationnelles. Au lieu de cela, 9 heures après la mort de ma mère, j’ai travaillé sur une meilleure méthode d’approximation rapide de la matrice OF. Dans ce travail, j’ai réutilisé ce que j’avais fait autrefois pour le ZX Spectrum. J’ai employé une régression linéaire le long des colonnes de difficulté et une régression exponentielle négative le long des lignes de répétition. Des années plus tard, j’ai découvert qu’une régression en loi de puissance était plus appropriée pour cette dernière. Seul l’ algorithme SM-8, développé quatre ans plus tard, exploiterait pleinement ces idées. Je le mentionne cependant surtout pour illustrer à quel point le travail acharné et la productivité peuvent constituer un excellent remède contre la morosité et une possible dépression. À cette époque, j’ai découvert que l’impact d’un traumatisme émotionnel suit une courbe circadienne. Je travaillais dur le matin, mais la morosité revenait insidieusement le soir. Le sommeil était la libération et le meilleur antidépresseur. Depuis ces premiers jours, je crois fermement que le sommeil et l’apprentissage portent en eux une solution au problème de la dépression, cependant, je n’ai jamais vraiment eu l’occasion d’y travailler. Cela m’aiderait d’en souffrir un peu moi-même, mais soit je bénéficie d’une bonne résilience naturelle, soit, plus probablement, j’emploie instinctivement les outils d’un bon sommeil et d’une forte productivité dans les moments difficiles. Depuis que Sapolsky a qualifié la dépression de « pire maladie du monde », je voulais trouver une formule pour la prévenir. Je sens qu’il existe une formule simple. Peut-être que cet optimisme naïf et enfantin fait lui-même partie de la solution ?

Le 13 avril 1991, nous avons décidé que SuperMemo 2 devait être distribué en tant que gratuiciel. Nous espérions que cela pourrait sensibiliser d’éventuels utilisateurs à l’étranger à la puissance de la répétition espacée. Cependant, au départ, nous devions envoyer des disquettes du SuperMemo gratuit à nos propres frais. Ce n’est qu’en 1993 que nous avons mis en ligne SuperMemo sur un BBS local appelé « Onkonet ». Il faudrait encore quelques années avant de pouvoir téléverser les versions suivantes sur Simtel et sur des sites de gratuiciels. Cette idée de gratuiciel a eu un effet secondaire intéressant : à la fin de l’année, c’était clair : les gens commençaient à utiliser le programme puis abandonnaient. C’était le signe d’un problème inhérent à la répétition espacée : une motivation faible, résultant de compétences insuffisantes, entraînait un taux d’abandon élevé. Nous avons aussi appris que certains essayaient de vendre SuperMemo 2 comme s’il s’agissait d’un produit commercial.

Le 2 mai 1991, j’ai mis en œuvre l’option permettant de définir l’ indice d’oubli souhaité dans SuperMemo 6. Le 5 juillet 1991, SuperMemo World est né. Un des premiers investissements fut un PC équipé d’un disque dur, qui allait enfin me permettre de sortir de la lente époque des disquettes.

Le 23 novembre 1991 : SuperMemo a été annoncé comme finaliste du concours Software for Europe. Cela a sauvé SuperMemo World.

Les débuts poussifs du SuperMemo commercial

Lorsque nous avons créé SuperMemo World avec Krzysztof Biedalak le 5 juillet 1991, l’avenir semblait si radieux qu’il nous aurait fallu des lunettes de soleil. La Terre est peuplée d’une population très intelligente qui a besoin d’apprendre des choses. Cette population entière constitue notre marché. Le seul problème était de convaincre tous ces gens intelligents que deux étudiants pauvres, éduqués derrière le rideau de fer, avaient quelque chose de valable à offrir. Nous ne pouvions pas utiliser le web pour cela. SuperMemo est plus ancien que le web lui-même. Nous ne pouvions pas nous permettre de publicité par manque de capital. Il n’existait aucune culture du capital-risque en Pologne en 1991. Tout ce que nous pouvions faire, c’était placer les premiers exemplaires de SuperMemo dans des chemises cartonnées et les déposer sur les étagères des magasins d’informatique voisins. Comme nous visions une domination mondiale, nous n’avions même pas de manuel en polonais. Au lieu des premières ventes, nous avons connu un long été de silence et de doutes grandissants.

Figure : En 1991, nous avons livré les premiers exemplaires de SuperMemo 5 pour DOS à des magasins de Poznan (Pologne), dans des chemises roses munies d’un autocollant. Le manuel n’incluait pas de traduction en polonais. Étonnamment, nous avons trouvé quelques acheteurs. La première vente a eu lieu entre le 9 et le 11 septembre 1991 (magasin d’informatique Axe Prim)
(reconstitué à partir des chemises et autocollants d’origine)

Pourquoi était-il si difficile de vendre le premier exemplaire ? Je peux reconstituer le scénario à partir des propos de l’un de nos premiers clients, qui avait effectivement visité un magasin et jeté un œil au premier SuperMemo exposé au public. Sur une étagère de programmes informatiques, aux côtés de boîtes brillantes de Microsoft, il remarqua une chemise défraîchie portant des mots séduisants : « votre logiciel d’apprentissage rapide révolutionnaire ». Il prit la chemise et ouvrit un manuel constitué d’une pile de pages photocopiées de piètre qualité, en anglais. Avec des mots ambitieux, il lut une histoire qui défiait la crédulité. Tout cela semblait trop beau pour être vrai. Apprentissage plus rapide, excellente rétention, nouvelle méthode scientifique, coût minime en temps, etc. Il n’a pas envisagé d’investir, l’ensemble étant assez coûteux (environ 100 dollars, ce qui représentait beaucoup d’argent en Pologne en 1991), mais il s’est approché du vendeur pour savoir qui se trouvait derrière SuperMemo. Le propriétaire du magasin connaissait bien SuperMemo et lui expliqua. L’histoire commença à paraître crédible. Le client n’a jamais oublié cet épisode. Quelques mois plus tard, il entendit parler de SuperMemo dans un journal local et devint l’un des premiers clients payants. Son coupon d’enregistrement est arrivé en janvier 1992, et l’historique de ses mises à jour montre qu’il est resté fidèle à SuperMemo pendant des décennies, et aujourd’hui son fils est l’un des clients réguliers.

Cependant, à l’été 1991, nous n’avions aucune vente, et dès l’automne, tout le monde sauf moi commençait à avoir de sérieux doutes. Pas sur SuperMemo, mais sur la viabilité de l’entreprise.

Il serait utile de savoir comment nous nous sommes rencontrés. Avec Biedalak, nous étions amis depuis toujours. J’ai fréquenté une école avec son frère, nous vivions à 200 mètres l’un de l’autre et nous nous sommes retrouvés dans la même promotion d’informatique à l’université. Je ne saurais dire comment j’ai convaincu Biedalak que SuperMemo était formidable. Nous avons toujours été trop proches et il a toujours fait partie du cercle. Cette partie fut facile. Tomek Kuehn fut l’un des premiers grands croyants en SuperMemo. C’était aussi un excellent programmeur, une grande source d’inspiration, et il a saisi l’idée instantanément. Il a écrit lui-même deux versions de SuperMemo : pour Atari 800 en 1988, et pour Atari ST en 1989. En janvier 1989, il a même vendu 10 exemplaires de SuperMemo 2 grâce à une annonce dans l’un des journaux informatiques : Komputer. Je présume qu’il n’a pas récupéré l’argent investi. Une fois diplômé, il avait déjà sa propre entreprise : un magasin d’informatique. Ce magasin fut aussi l’un des premiers à présenter SuperMemo à ses clients. Son partenaire et ami était Marczello Georgiew, qui n’a pas eu besoin de beaucoup de persuasion non plus. Enfin, j’ai rencontré Janusz Murakowski lors des examens du GRE à Budapest en 1990. Grand esprit mathématique, il fut probablement le converti le plus rapide à SuperMemo de tous. Pendant notre trajet en train de retour vers la Pologne, j’ai mentionné SuperMemo. Il fut instantanément captivé. Quelques jours plus tard, il était déjà un utilisateur enthousiaste de SuperMemo 2 (dès le 13 juin 1990). Dans l’hymne rap de notre entreprise, nous chantions « nous sommes les gars qui vendent SuperMemo ». Il était très difficile de convaincre les gens que SuperMemo fonctionnait, mais les membres de l’équipe ont toujours été enthousiastes.

En novembre 1991, l’enthousiasme commençait à s’éteindre. Si nous avions continué sans succès, nous aurions progressivement perdu l’équipe, proportionnellement à leur implication et à leur passion. Après quelques mois supplémentaires, l’entreprise aurait pu mourir. SuperMemo, lui, ne serait pas mort. J’aurais certainement cherché un acheteur, ou j’aurais continué d’une manière ou d’une autre. J’étais trop attaché au produit. Je l’utilisais moi-même et toutes mes connaissances étaient investies dans mes bases de données. J’aurais peut-être songé à reprendre l’idée d’un doctorat aux États-Unis. De la même manière que j’avais pu combiner le travail à l’université en Hollande en 1989 avec la programmation « après les heures de travail », j’aurais probablement continué jusqu’à une percée quelconque, par exemple sur le web. Peut-être serait-ce devenu un produit open source ? Heureusement, le Dr Wojciech Makałowski, du département de biochimie des biopolymères, a suggéré que nous présentions SuperMemo au concours Software for Europe. Par un miraculeux coup de chance, nous nous sommes qualifiés pour la finale, ce qui fut immédiatement remarqué par les médias polonais, notamment les journaux informatiques. À partir de ce moment, SuperMemo eut la vie facile avec la presse polonaise, qui devint de plus en plus intriguée. Andrzej Horodeński fut le premier, et Pawel Wimmer fut le second et le plus fidèle jusqu’à ce jour. Wimmer utilisait en réalité SuperMemo 2, qu’il avait probablement reçu de Tomasz Kuehn au moment de son annonce dans le journal KOMPUTER en 1989.

1,5 an après sa naissance, SuperMemo World était enfin devenu profitable. Pas mal.

SuperMemo World fut une aventure fantastique dès le départ. Nous n’avons eu aucune injection de capital-risque en Pologne en 1991, nous avons donc dû nous débrouiller par nos propres moyens en vendant ce que d’autres considéraient comme de « l’huile de serpent ». Nous aurions pu facilement échouer, mais nous avons survécu grâce à la seule force de la passion, de la conviction, et d’un immense coup de chance.

Origines de l’algorithme SM-6

L’algorithme SM-6 fut d’abord utilisé dans SuperMemo 6 (1991), mais il continua d’évoluer dans SuperMemo 7 (1992). Il n’y a jamais eu de version SM-7 malgré de multiples changements. Notamment, dès 1994, la fonction exponentielle fut utilisée pour approximer les courbes d’oubli dans SuperMemo 7 pour Windows. Les approximations de la matrice OF ont également été améliorées avec le temps.

Figure : SuperMemo 7 pour Windows (1992) affichant une courbe d’oubli basée sur des moyennes.

Figure : SuperMemo 7 pour Windows (1994) affichant une courbe d’oubli approximée par une fonction exponentielle. L’axe vertical représente le rappel en pourcentage. L’axe horizontal correspond au temps représenté par le facteur U

Le composant le plus important de l’algorithme SM-6 était de collecter des données sur le rythme de l’oubli. Les courbes d’oubli permettent de déterminer avec précision les intervalles optimaux. Cela a éliminé le besoin de l’approche bang-bang, lente et imprécise, de l’algorithme SM-5 :

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

Ce texte fait partie de : « Economics of Learning » par Piotr Wozniak (1995)

Dans l’ algorithme SM-5, le processus de détermination de la valeur d’une seule entrée de la matrice des facteurs optimaux se déroulait comme suit (voir plus haut) :

1. Fixer la valeur initiale à une valeur moyenne du facteur optimal (OF) obtenue lors d’expériences précédentes
2. Si la note produite par l’entrée en question était (1) supérieure à la valeur souhaitée, alors augmenter la valeur de l’OF, (2) inférieure à la valeur souhaitée, alors diminuer l’OF, ou (3) égale à la valeur souhaitée, alors ne pas modifier l’OF

L’approche ci-dessus montre que la valeur optimale de l’OF ne pouvait être atteinte qu’après un très grand nombre de répétitions, et, ce qui est pire, plus le numéro d’ordre d’une répétition était élevé, plus il fallait de temps pour exécuter le cycle de modification-vérification (c’est-à-dire le cycle dans lequel une entrée de l’OF est modifiée, puis vérifiée lors de la planification d’une autre répétition avec un intervalle correspondant, plus long).

Introduction du concept d’indice d’oubli

La nouveauté de l’algorithme SM-6 consiste à approximer la pente de la courbe d’oubli correspondant à une entrée donnée de la matrice des facteurs optimaux, et à calculer la nouvelle valeur du facteur optimal concerné directement à partir de la courbe approximée. En d’autres termes, aucun cycle de modification-vérification n’est nécessaire dans l’algorithme SM-6, grâce à l’établissement d’une relation déterministe entre la courbe d’oubli et l’intervalle inter-répétition optimal. La modification du facteur optimal se produit immédiatement après une répétition, lors de l’approximation de la nouvelle courbe d’oubli dérivée de données incluant la note attribuée lors de la réponse récente. Cette modification a non seulement permis d’accélérer considérablement le processus de détermination des valeurs optimales de la matrice des facteurs optimaux, mais elle a aussi fourni un moyen d’établir le niveau souhaité de rétention des connaissances qui sera atteint au cours du processus d’apprentissage (voir un exemple de courbe d’oubli).

Le niveau souhaité de rétention des connaissances est déterminé par la proportion d’ éléments qui ne sont pas retenus lors des répétitions. Cette proportion est appelée l’ indice d’oubli (les éléments sont classés comme retenus ou oubliés en fonction des notes attribuées par l’étudiant lors de l’auto-évaluation de ses progrès).

Figure : Un exemple de courbe d’oubli tracée au cours des répétitions (plus de 40 000 cas de répétitions enregistrés).

Dans la figure présentée ci-dessus, le temps écoulé est représenté par l’intervalle en jours. L’axe vertical représente la rétention des connaissances exprimée en pourcentage. La ligne horizontale située au niveau de rétention de 90 % déterminé l’indice d’oubli demandé, c’est-à-dire la proportion souhaitée d’éléments qui devraient être oubliés au moment de la répétition. L’intervalle optimal se situera alors naturellement à l’intersection de la ligne de l’indice d’oubli demandé avec la courbe d’oubli. Dans l’exemple ci-dessus, l’intervalle optimal est de sept jours. La courbe d’oubli présentée a été tracée sur la base de 40 489 cas de répétitions enregistrés. Voir plus loin dans le texte l’explication des valeurs R-Factor (RF), O-Factor (OF), etc. En raison de la nature très irrégulière de la matrice des facteurs optimaux calculée directement à partir des courbes d’oubli, dans l’algorithme SM-6, la matrice utilisée pour l’espacement des répétitions représente une version lissée de la matrice dite des facteurs de rétention (matrice RF), dérivée directement des courbes d’oubli correspondant à des entrées particulières de la matrice OF. En d’autres termes, les courbes d’oubli déterminent la valeur des entrées de la matrice RF, et seul l’équivalent lissé de celle-ci, la matrice OF, est utilisé pour calculer les intervalles optimaux.

Algorithme SM-6

La description de l’algorithme ci-dessous est reprise, avec quelques clarifications, de ma thèse de doctorat, et correspond à la situation telle qu’elle se présentait en 1994 :

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

Ce texte fait partie de : « Economics of Learning » par Piotr Wozniak (1995)

1. Les connaissances apprises sont divisées en unités les plus petites possible, appelées éléments
2. Les éléments sont formulés sous forme de question-réponse
3. Les éléments sont mémorisés au moyen d’une technique d’abandon à rythme libre, c’est-à-dire en répondant aux questions posées aussi longtemps qu’il le faut pour fournir toutes les bonnes réponses
4. Après la mémorisation d’un élément, la première répétition est planifiée après un intervalle identique pour tous les éléments. Sa valeur est déterminée par le niveau souhaité de rétention des connaissances, qui peut à son tour être converti en un intervalle en utilisant une courbe d’oubli moyenne tirée d’une base de données moyenne d’un étudiant moyen ( Wozniak 1994a). La rétention souhaitée est spécifiée au moyen de l’ indice d’oubli, qui correspond à la proportion d’éléments oubliés lors des répétitions (pour apprendre à calculer la rétention à partir de l’indice d’oubli, et vice versa). Notez que le premier intervalle peut être aléatoirement raccourci ou allongé afin d’accélérer le processus d’optimisation (faire varier les intervalles accroît la précision de l’approximation de la courbe d’oubli).
5. Le premier intervalle est calculé comme pour un étudiant moyen et une base de données moyenne. Cependant, dès que la valeur enregistrée de l’indice d’oubli s’écarte du niveau demandé, la longueur du premier intervalle est modifiée en conséquence. La nouvelle valeur de l’intervalle est dérivée de l’approximation de la courbe d’oubli exponentielle négative tracée au cours des répétitions. À chaque score de répétition enregistré, le tracé devient de plus en plus précis et la valeur utilisée de l’intervalle inter-répétition optimal se stabilise au point qui assure le niveau de rétention des connaissances sélectionné. Après chaque répétition, l’étudiant attribue une note, qui détermine la précision et la facilité avec lesquelles la bonne réponse est reproduite.
6. Sur la base des notes, les éléments sont classés en catégories de difficulté. Leur difficulté est réestimée à chaque répétition successive. La difficulté de chaque élément est caractérisée par les facteurs E mentionnés plus haut (E pour « easiness », facilité). Les facteurs E sont égaux à 2,5 pour tous les éléments à leur entrée dans le processus d’apprentissage, puis modifiés après les répétitions successives. Par exemple, des notes supérieures à quatre entraînent une légère augmentation du facteur E (de bonnes notes indiquent des éléments faciles), tandis que des notes inférieures à quatre le réduisent. Historiquement, les facteurs E servaient à déterminer de combien les intervalles devaient augmenter à chaque répétition successive d’éléments d’une difficulté donnée. Aujourd’hui, les facteurs E ne servent qu’à indexer les matrices des facteurs optimaux et des facteurs de rétention, et n’ont plus qu’un lien ténu avec l’augmentation réelle des intervalles.
7. Des intervalles optimaux différents sont appliqués aux éléments de difficulté différente.
8. Des intervalles différents sont appliqués aux éléments qui ont été répétés un nombre de fois différent.
9. La fonction des intervalles optimaux est constamment modifiée afin de produire la rétention des connaissances souhaitée, déterminée par l’indice d’oubli. En d’autres termes, l’algorithme détectera dans quelle mesure l’étudiant gère bien les répétitions et ajustera la longueur des intervalles inter-répétition en conséquence.
10. La fonction des intervalles optimaux est représentée par la matrice des facteurs optimaux, matrice OF en abrégé, définie comme suit : pour n=1 : I(n,EF)=OF(n,EF) ; pour n>1 : I(n,EF)=I(n-1,EF)*OF(n,EF) ; où :
    • I(n,EF) – n-ième intervalle pour la difficulté EF
    • OF(n,EF) – facteur optimal pour la n-ième répétition et la difficulté EF
    Les entrées de la matrice des facteurs optimaux sont modifiées au cours des répétitions afin d’assurer le niveau souhaité de rétention des connaissances
11. La matrice des facteurs optimaux est produite en lissant la matrice des facteurs de rétention, matrice RF en abrégé. La matrice des facteurs de rétention est définie de la même manière que la matrice des facteurs optimaux.
12. Les entrées de la matrice des facteurs de rétention visent à estimer les valeurs des entrées de la matrice des facteurs optimaux. Chaque facteur optimal correspond à un intervalle optimal qui produit la rétention souhaitée lors de la répétition (déterminée par l’indice d’oubli demandé). Chaque entrée de la matrice des facteurs de rétention correspond à une valeur différente du facteur E et à un numéro de répétition différent
13. Les entrées de la matrice des facteurs de rétention, appelées facteurs R , sont calculées à partir des courbes d’oubli dont la forme est esquissée sur la base de l’historique des répétitions
14. Le temps écoulé sur le graphique de la courbe d’oubli est mesuré par le facteur U , qui est le rapport entre l’intervalle actuel et le précédent, sauf pour la première répétition, où le facteur U est égal à l’intervalle en jours (comme dans la figure). L’enregistrement des répétitions permet de calculer la rétention pour différentes valeurs du facteur U. Le graphique de la rétention en fonction du temps écoulé (facteur U) représente une courbe d’oubli. L’intersection de la courbe d’oubli avec le niveau de rétention souhaité déterminé le facteur R optimal, qui, après lissage de la matrice des facteurs de rétention, donne le facteur O optimal
15. Chaque catégorie de difficulté et chaque numéro de répétition dispose de son propre enregistrement de répétitions, utilisé pour esquisser une courbe d’oubli distincte. En d’autres termes, des intervalles différents seront utilisés pour des éléments de difficulté différente, et pour des éléments répétés un nombre de fois différent.
16. Les intervalles utilisés dans l’apprentissage, y compris le premier intervalle, sont légèrement dispersés autour de la valeur optimale afin d’augmenter la précision de l’esquisse de la courbe d’oubli, et par conséquent, d’augmenter le taux de convergence de la procédure d’optimisation. En dispersant légèrement les intervalles, l’approximation de la courbe d’oubli utilisera un ensemble de points plus dispersé sur le graphique

1994 : la nature exponentielle de l’oubli

Courbe d’oubli : loi de puissance ou exponentielle

La forme de la courbe d’oubli est essentielle pour comprendre la mémoire. Les mathématiques derrière cette courbe peuvent même éclairer la compréhension du rôle du sommeil (voir plus loin). Lorsque Ebbinghaus a déterminé pour la première fois le rythme de l’oubli, il a obtenu un ensemble de données assez satisfaisant, bien ajusté à une fonction en loi de puissance. Cependant, aujourd’hui, nous savons que l’oubli est exponentiel. L’écart s’explique ici.

Courbe d’oubli adaptée d’après Hermann Ebbinghaus (1885). La courbe a été reconstituée à partir des données tabulaires originales publiées par Ebbinghaus (Piotr Wozniak, 2017)

Une idée fausse qui a servi la répétition espacée

Pendant de nombreuses années, la forme exacte de la courbe n’a joué qu’un rôle mineur dans la répétition espacée. Mes premières intuitions étaient assez confuses, selon le contexte. Déjà en 1982, je pensais que l’évolution avait conçu l’oubli pour que le cerveau ne manque pas d’espace mémoire. Le moment optimal pour oublier serait déterminé par les propriétés statistiques de l’environnement. Le déclin serait programmé pour maximiser la survie. Une fois la révision manquée, la mémoire serait effacée pour laisser de la place à un nouvel apprentissage.

J’avais tort de penser qu’il pouvait exister un moment optimal pour l’oubli, et cette erreur s’est en fait révélée utile pour inventer la répétition espacée. Cette intuition du « moment optimal » a contribué à la première expérience de 1985. Le moment optimal pour l’oubli impliquerait une courbe d’oubli sigmoïdale avec un point d’inflexion net déterminant l’optimalité. Avant la révision, l’oubli serait minime. Une révision retardée entraînerait un oubli rapide. C’est pourquoi trouver l’intervalle optimal semblait si crucial. Lorsque les données ont commencé à affluer plus tard, avec mon biais de confirmation, je ne parvenais toujours pas à voir mon erreur. J’ai écrit dans mon mémoire de master, à propos de l’oubli sigmoïdal : « cela découle directement de l’observation que, avant l’écoulement de l’intervalle optimal, le nombre de trous de mémoire est négligeable ». J’avais dû oublier mon propre graphique de courbe d’oubli produit fin 1984.

Aujourd’hui, cela paraît absurde, mais même mon modèle d’apprentissage intermittent apportait un certain soutien à cette théorie. L’approximation exponentielle produisait une erreur d’écart particulièrement élevée pour les données recueillies dans mon travail sur le modèle d’apprentissage intermittent, et la superposition de courbes sigmoïdes pour différents facteurs E pouvait facilement imiter une linéarité précoce. L’approximation linéaire semblait s’ajuster à merveille au modèle d’apprentissage intermittent dans la plage de rappel des données disponibles. Rien d’étonnant, avec des pages entières de matériel hétérogène, à ce que la nature exponentielle de l’oubli soit restée bien cachée.

Modèles contradictoires

Je ne me suis guère penché sur les courbes d’oubli. Cependant, mon modèle biologique, qui remonte à 1988, parlait d’une décroissance exponentielle de la récupérabilité. Apparemment, à cette époque, la courbe d’oubli et la récupérabilité pouvaient coexister dans mon esprit comme des entités indépendantes.

Dans mon travail de validation pour un cours de simulation informatique (Dr Katulski, janvier 1988), mes graphiques montrent clairement des courbes d’oubli exponentielles :

Figure : Mécanisme hypothétique impliqué dans le processus d’apprentissage optimal. (A) Phénomènes moléculaires (B) Changements quantitatifs dans la synapse.

À cette époque, j’avais peut-être déjà repris une meilleure idée trouvée dans la littérature. Dans les années 1986-1987, j’ai passé beaucoup de temps à la bibliothèque universitaire à chercher de bonnes recherches sur la répétition espacée. Je n’en ai trouvé aucune. J’étais peut-être déjà familier avec la courbe d’oubli d’Ebbinghaus. Elle est mentionnée dans mon mémoire de master.

Collecte de données

J’ai collecté les données pour mon premier tracé de courbe d’oubli fin 1984. Comme tout cet apprentissage se faisait pour le plaisir d’apprendre sur une période de 11 mois, et que le coût du graphique était minime, j’ai oublié ce graphique, qui est resté inutilisé pendant 34 ans dans mes archives :

Figure : Ma toute première courbe d’oubli pour la rétention du vocabulaire anglais, tracée en 1984, soit quelques mois avant de concevoir SuperMemo sur papier. Ce graphique ne faisait pas partie de l’expérience. Il s’agissait simplement d’une évaluation cumulative des résultats de l’apprentissage intermittent du vocabulaire anglais. Le graphique fut rapidement oublié. Il a été redécouvert 34 ans plus tard. Après la mémorisation, 49 pages d’environ 40 paires de mots anglais ont été révisées à différents intervalles, et le nombre d’erreurs de rappel a été enregistré. Après élimination des valeurs aberrantes et calcul de la moyenne, la courbe apparaît beaucoup moins abrupte que celle obtenue par Ebbinghaus (1885), qui utilisait des syllabes dénuées de sens et une mesure différente de l’oubli : l’économie de temps lors du réapprentissage

Mon expérience de 1985 pourrait aussi être considérée comme une tentative bruitée de collecter des données de courbe d’oubli. Cependant, les premiers SuperMemo ne se souciaient pas de la courbe d’oubli. L’optimisation était de nature bang-bang, même si aujourd’hui, collecter des données de rétention semble une solution si évidente (comme en 1985).

Jusqu’à ce que je commence à collecter des données avec le logiciel SuperMemo, où chaque élément pouvait être examiné indépendamment, je n’ai pas pu me défaire complètement de mes premières notions erronées sur l’oubli.

SuperMemo 1 pour DOS (1987) recueillait des historiques complets de répétitions qui auraient permis de déterminer la nature de l’oubli. Cependant, en l’espace de 10 jours (le 23 décembre 1987), j’ai dû abandonner l’enregistrement complet des répétitions. À cette époque, mon espace disque était de 360 Ko. C’est exact. Je faisais tourner SuperMemo à partir d’anciennes disquettes 5,25 pouces. L’enregistrement complet de l’historique des répétitions n’est revenu dans SuperMemo que 8 longues années plus tard (le 15 février 1996), après les efforts intenses du Dr Janusz Murakowski, qui considérait chaque minute qui s’écoulait comme un gaspillage de données précieuses pouvant alimenter les futurs algorithmes et la recherche sur la mémoire. Deux décennies plus tard, nous disposons de plus de données que nous pouvons effectivement traiter.

Sans historique de répétitions, je pouvais tout de même étudier l’oubli à l’aide des données de courbe d’oubli collectées indépendamment. Le 6 janvier 1991, j’ai trouvé comment enregistrer les courbes d’oubli dans un petit fichier qui n’alourdirait pas la taille de la base de données (c’est-à-dire sans l’enregistrement complet de l’historique des répétitions).

Ce n’est qu’avec SuperMemo 6, en 1991, que la collecte de données de courbe d’oubli a commencé pour déterminer les intervalles optimaux. Il s’agissait de faire la même chose que ma première expérience, sauf que cela se faisait automatiquement, à grande échelle, et pour des souvenirs séparés en questions individuelles (ce qui résolvait le problème de l’hétérogénéité). SuperMemo 6 utilisait au départ une recherche par dichotomie pour trouver le meilleur moment correspondant à l’indice d’oubli. Une bonne approximation restait encore à 3 ans dans le futur.

Premières données de courbe d’oubli

En mai 1991, j’avais quelques premières données à examiner, et ce fut une grande déception. J’avais prévu qu’il me faudrait un an pour voir apparaître une régularité. Cependant, tous les deux mois environ, je continuais de noter ma déception face à des progrès minimes. Les progrès dans la collecte de données étaient d’une lenteur exaspérante et l’attente était insupportable. Un an plus tard, je n’étais pas plus proche du but. Si Ebbinghaus avait pu tracer une bonne courbe avec des syllabes dénuées de sens, sa souffrance liée au manque de cohérence avait dû en valoir la peine. Avec des données significatives, la vérité mettait beaucoup de temps à émerger. Même avec la commodité de tout faire faire par un ordinateur tout en s’amusant à apprendre.

Le 3 septembre 1992, SuperMemo 7 pour Windows a permis de jeter un premier bon coup d’œil sur une véritable courbe d’oubli. La vue était fascinante :

Figure : SuperMemo 7 pour Windows a été écrit en 1992. Dès le 3 septembre 1992, il était capable d’afficher le graphique de courbe d’oubli de l’utilisateur. L’axe horizontal, intitulé facteur U, correspondait aux jours dans ce graphique particulier. Les inflexions entre les jours 14 et 20 étaient l’une des raisons pour lesquelles il était difficile de déterminer la nature de l’oubli. Les anciennes hypothèses erronées étaient difficiles à réfuter. Jusqu’au jour 13, l’oubli paraissait presque linéaire et pouvait aussi bien correspondre à un bon ajustement exponentiel. Il a fallu encore deux ans de collecte de données pour trouver des réponses (source : SuperMemo 7 : guide de l’utilisateur)

Approximations de la courbe d’oubli

En 1994, je n’étais toujours pas certain de la nature de l’oubli. J’ai repris les données collectées durant les 3 années précédentes (1991-1994) et j’ai entrepris de déterminer la courbe une fois pour toutes. Je me suis concentré sur mes propres données, issues de plus de 200 000 répétitions. Ce ne fut cependant pas facile. Si SuperMemo planifie une répétition à R=0,9, on peut tracer une ligne droite de R=1,0 à R=0,9 et obtenir de bons résultats avec des données bruitées :

Figure : Difficulté d’approximer la courbe d’oubli. En 1994, il était difficile de comprendre la nature de l’oubli dans SuperMemo, car la plupart des données étaient collectées dans une plage de rappel élevé.

Mes notes du 6 mai 1994 illustrent le degré d’incertitude :

Anecdote personnelle. Pourquoi utiliser des anecdotes ?

6 mai 1994 : toute une journée de tentatives folles pour mieux approximer les courbes d’oubli. J’ai d’abord essayé R=1-i _n/(H _n+i _n) où i – l’intervalle, H – la demi-vie de la mémoire, et n – le facteur de coopérativité. Tard dans la soirée, ça marchait, mais assez lentement, mais… il s’est avéré que r=exp(-a*i) fonctionne à peine moins bien ! Même la vieille approximation linéaire n’était pas beaucoup moins bonne (sigmoïde : D=8,6 %, exponentielle D=8,8 %, et linéaire D=10,8 %). Peut-être que les courbes d’oubli sont effectivement exponentielles ? Je vais dormir à 2h50

Il n’était pas facile de distinguer les fonctions linéaires, en loi de puissance, exponentielles, de Zipf, de Hill, et autres. Les approximations exponentielles, en loi de puissance et même linéaires donnaient des résultats plutôt bons selon des circonstances difficiles à isoler. Ce n’est qu’en observant les courbes d’oubli bien triées par complexité à des niveaux de stabilité plus élevés, malgré le manque de données de ces graphiques, que j’ai pu voir plus clairement la nature exponentielle de l’oubli.

Une des fausses pistes de 1994 fut que, naturellement, j’avais surtout collecté des données pour la première révision. Les nouveaux éléments, à leur entrée dans le processus, forment encore un groupe hétérogène qui obéit à la loi de puissance de l’oubli.

La courbe d’oubli de la première révision pour des connaissances nouvellement apprises, collectée avec SuperMemo.

Plus tard, lorsqu’ils sont triés par complexité et stabilité, ils commencent à devenir exponentiels. Dans l’algorithme SM-6, la complexité et la stabilité étaient imparfaitement exprimées respectivement par les facteurs E et le numéro de répétition. Cela a entraîné des imperfections algorithmiques qui ont rendu le tri imparfait. En outre, SuperMemo reste dans la zone de rétention élevée où l’oubli est presque linéaire.

En mai 1994, la principale courbe de première révision de ma base de données Advanced English avait rassemblé 18 000 points de données et semblait être le meilleur matériau analytique. Cependant, cette courbe englobait tout le matériel d’apprentissage entrant dans le processus, indépendamment de sa difficulté. Je ne savais pas encore que cette courbe était régie par la loi de puissance. Mon meilleur écart était de 2,0.

Pour une courbe similaire de 2018, voir :

Figure : Courbe d’oubli obtenue en 2018 avec SuperMemo 17 pour une difficulté moyenne (facteur A=3,9). Avec 19 315 répétitions et un écart des moindres carrés de 2,319, elle est assez semblable à la courbe de 1994, sauf qu’elle est mieux approximée par une fonction exponentielle (pour un exemple de fonction en loi de puissance, voir : courbe d’oubli).

L’oubli exponentiel s’impose

Dès l’été 1994, j’étais raisonnablement convaincu de la nature exponentielle de l’oubli. En 1995, nous avons publié « 2 composantes de la mémoire » avec la formule R=exp(-t/S). Notre publication reste largement ignorée par la science dominante, mais elle est omniprésente sur le web dès qu’il est question des courbes d’oubli.

Il est intéressant de noter qu’en 1966, le lauréat du prix Nobel Herbert Simon s’est penché sur la loi de Jost, dérivée des travaux d’ Ebbinghaus de 1897. Simon a remarqué que la nature exponentielle de l’ oubli nécessitait l’existence d’une propriété de la mémoire que nous appelons aujourd’hui la stabilité de la mémoire. Simon a écrit un court article et est passé à des centaines d’autres projets qui l’occupaient. Son texte fut largement oublié, mais il s’est révélé prophétique. En 1988, un raisonnement similaire a conduit à l’idée du modèle à deux composantes de la mémoire à long terme.

Aujourd’hui, nous pouvons ajouter une implication supplémentaire : si l’oubli est exponentiel, cela implique une probabilité constante d’oubli par unité de temps, ce qui implique une interférence du réseau neuronal, ce qui implique que le sommeil pourrait renforcer la stabilité non pas en consolidant les souvenirs, mais simplement en supprimant la cause de l’interférence : les synapses inutiles. Giulio Tononi pourrait alors avoir raison au sujet de la perte nette de synapses durant le sommeil. Cependant, il pense que cette perte est homéostatique. L’oubli exponentiel indique que cela pourrait être bien davantage. Il pourrait s’agir d’une forme d’« oubli intelligent » de ce qui interfère avec les souvenirs clés renforcés à l’état de veille.

Courbe d’oubli exponentielle négative

Ce n’est qu’en 2005 que nous avons écrit plus en détail sur la nature exponentielle de l’oubli. Dans un article présenté par le Dr Gorzelańczyk lors d’une conférence de modélisation en Pologne, nous avons écrit :

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

Bien que l’on ait toujours soupçonné que l’oubli était de nature exponentielle, prouver ce fait n’a jamais été simple. La décroissance exponentielle apparaît de manière standard dans les systèmes biologiques et physiques, de la décroissance radioactive au séchage du bois. Elle survient partout où le taux de décroissance attendu est proportionnel à la taille de l’échantillon, et où la probabilité de désintégration d’une seule particule est constante. Les problèmes suivants ont entravé les efforts de modélisation de l’oubli depuis les travaux d’Ebbinghaus (Ebbinghaus, 1885) :

• une taille d’échantillon réduite
• l’hétérogénéité de l’échantillon
• la confusion entre les courbes d’oubli, les courbes de réapprentissage, les courbes de pratique, les courbes d’économie, les courbes d’essais pour apprendre, les courbes d’erreur, et d’autres membres de la famille des courbes d’apprentissage

En utilisant SuperMemo, nous pouvons surmonter tous ces obstacles pour étudier la nature du déclin de la mémoire. En tant qu’application commerciale populaire, SuperMemo donne accès à un volume quasi illimité de données recueillies auprès d’étudiants du monde entier. Les graphiques de courbe d’oubli accessibles à chaque utilisateur du programme ( Outils : Statistiques : Analyse : Courbes d’oubli) sont tracés sur des échantillons de données relativement homogènes et constituent un reflet fidèle du déclin de la mémoire dans le temps (par opposition à d’autres formes de courbes d’apprentissage). La quête d’homogénéité affecte cependant significativement la taille de l’échantillon. Il est important de noter que les courbes d’oubli pour du matériel présentant une stabilité mémorielle et une difficulté de connaissance différentes diffèrent également. Alors que la stabilité de la mémoire affecte le taux de déclin, un matériel d’apprentissage hétérogène produit une superposition de courbes d’oubli individuelles, chacune caractérisée par un taux de déclin différent. Par conséquent, même dans des ensembles comportant des centaines de milliers d’éléments d’information participant au processus d’apprentissage, seuls des échantillons de données homogènes relativement restreints peuvent être filtrés. Ces échantillons dépassent rarement quelques milliers de cas de répétitions. Même ainsi, ces ensembles de données vont bien au-delà de la qualité d’échantillon habituellement disponible pour les chercheurs étudiant les propriétés de la mémoire en conditions contrôlées. Pourtant, la nature stochastique de l’oubli rend encore difficile de trancher définitivement sur la nature mathématique de la fonction de déclin (voir les deux exemples ci-dessous). En ayant analysé plusieurs centaines de milliers d’échantillons, nous nous sommes rapprochés comme jamais de la démonstration que l’oubli est une forme de décroissance exponentielle.

Figure : Exemple de courbe d’oubli esquissée par SuperMemo. L’échantillon de la base de données, comprenant près d’un million de cas de répétitions, a été filtré pour une difficulté moyenne et une faible stabilité (facteur A=3,9, S dans [4,20]), donnant 5850 cas de répétitions (moins de 1 % de l’échantillon total). La ligne rouge résulte d’une analyse de régression avec R=e ^-kt/S. L’ajustement de courbe avec d’autres fonctions élémentaires démontre que la décroissance exponentielle offre la meilleure correspondance aux données. La mesure du temps utilisée dans le graphique est le facteur dit U, défini comme le quotient de l’intervalle inter-répétition actuel et du précédent. Notez que la décroissance exponentielle dans la plage de R allant de 1 à 0,9 peut plausiblement être approximée par une droite, ce qui ne serait pas le cas si la décroissance avait été caractérisée par une fonction en loi de puissance.

Figure : Exemple de courbe d’oubli esquissée par SuperMemo. L’échantillon de la base de données, comprenant près d’un million de cas de répétitions, a été filtré pour une difficulté moyenne et une stabilité moyenne (facteur A=3,3, S > 1 an), donnant 1082 cas de répétitions. La ligne rouge résulte d’une analyse de régression avec R=e ^-kt/S.

Courbe d’oubli : formule de la récupérabilité

Dans l’ algorithme SM-17, la récupérabilité R correspond à la probabilité de rappel et représente la courbe d’oubli exponentielle. La récupérabilité est dérivée de la stabilité et de l’ intervalle :

R[n]:=exp ^-k*t/S[n-1]

où :

• R[n] – récupérabilité à la n-ième répétition
• k – constante de décroissance
• t – temps ( intervalle)
• S[n-1] – stabilité après la (n-1)-ième répétition

Cette approche théorique bien nette se complique quelque peu lorsque l’on considère que l’oubli peut ne pas être parfaitement exponentiel si les éléments sont difficiles ou de difficulté mixte. De plus, les courbes d’oubli dans SuperMemo peuvent être faussées par les stratégies de l’utilisateur.

Dans l’algorithme SM-8, nous espérions que l’information sur la récupérabilité pourrait être dérivée des notes. Cela s’est révélé faux. Il existe très peu de corrélation entre les notes et la récupérabilité, et celle-ci provient principalement du fait que les éléments complexes obtiennent de moins bonnes notes et ont tendance à être oubliés plus vite (au moins au début).

Rétention contre indice d’oubli

La nature exponentielle de l’oubli implique que la relation entre l’ indice d’oubli mesuré et la rétention des connaissances peut être exprimée avec précision par la formule suivante :

Rétention = -FI/ln(1-FI)

où :

• Rétention – la rétention globale des connaissances exprimée en fraction (0..1),
• FI – indice d’oubli exprimé en fraction (l’indice d’oubli est égal à 1 moins la rétention des connaissances lors des répétitions).

Par exemple, par défaut, une répétition espacée bien menée devrait aboutir à une rétention de 0,949 (soit 94,9 %) pour un indice d’oubli de 0,1 (soit 10 %). Ces 94,9 % illustrent à quel point la décroissance exponentielle ressemble d’abord à une fonction linéaire. Pour un oubli linéaire, le chiffre serait de 95,000 % (soit 100 % moins la moitié de l’indice d’oubli).

Courbe d’oubli pour du matériel mal formulé

En 1994, j’ai eu la chance que mes bases de données soient en grande partie bien formulées. Ce n’était souvent pas le cas des utilisateurs de SuperMemo. Pour des éléments mal formulés, la courbe d’oubli s’aplatit. Elle n’est pas purement exponentielle (comme une superposition de plusieurs courbes exponentielles). SuperMemo ne peut jamais prédire le moment de l’oubli d’un élément unique. L’oubli est un processus stochastique et ne peut opérer que sur des moyennes. Une idée fausse fréquemment répandue sur SuperMemo est qu’il prédirait le moment exact de l’oubli : ce n’est pas vrai, et ce n’est pas possible. Ce que fait SuperMemo, c’est rechercher les intervalles pour lesquels des éléments d’une difficulté donnée sont susceptibles de présenter une probabilité donnée d’oubli (par exemple 10 %). Ces courbes d’oubli aplaties ont conduit à un paradoxe. Négliger les éléments complexes peut mener à une excellente survie après de longues pauses de révision. Même pour une courbe d’oubli purement exponentielle négative, un écart d’estimation d’intervalle d’un facteur 10 entraînera une différence de rétention de R2=exp ^10*ln(R1). Cela équivaut à une chute de 98 % à 81 %. Pour une courbe d’oubli aplatie, typique d’éléments mal formulés, cette chute peut n’être que de 98 % -> 95 %. Cela conduit à la conclusion que maintenir le matériel complexe à des priorités plus faibles constitue une bonne stratégie d’apprentissage.

Une loi de puissance émerge de la superposition de courbes d’oubli exponentielles

Pour illustrer l’importance des échantillons homogènes dans l’étude des courbes d’oubli, examinons l’effet du mélange de connaissances difficiles et faciles sur la forme de la courbe d’oubli. La figure ci-dessous montre pourquoi des échantillons hétérogènes peuvent conduire à des conclusions erronées sur la nature de l’oubli. L’échantillon hétérogène de cette démonstration est le mieux approximé par une fonction en loi de puissance ! Le fait que des courbes en loi de puissance émergent par le calcul de moyennes de courbes d’oubli exponentielles a déjà été rapporté par d’autres (Anderson&Tweney 1997 ; Ritter&Schooler, 2002).

Figure : La superposition de courbes d’oubli peut masquer la nature exponentielle de l’oubli. Un échantillon théorique de deux types de traces mnésiques a été composé : 50 % des traces de l’échantillon avec une stabilité S=1 (fine ligne jaune) et 50 % des traces de l’échantillon avec une stabilité S=40 (fine ligne violette). La courbe d’oubli superposée présentera naturellement une récupérabilité R=0,5*Ra+0,5*Rb=0,5*(e ^-k*t+e ^-k*t/40). La courbe d’oubli de cet échantillon composite est représentée en granulé noir sur le graphique. La ligne bleue épaisse montre l’approximation exponentielle (R2=0,895), et la ligne rouge épaisse montre l’approximation en loi de puissance de la même courbe (R2=0,974). Dans ce cas, c’est la fonction en loi de puissance qui correspond le mieux aux données, même si l’oubli des sous-ensembles de l’échantillon est de nature exponentielle négative.

SuperMemo 17 comprend également une courbe d’oubli unique, mieux approximée par une fonction en loi de puissance. Il s’agit de la première courbe d’oubli après la mémorisation des éléments. Au moment de la mémorisation, nous ne connaissons pas la complexité de l’élément. C’est pourquoi le matériel est hétérogène et nous obtenons une courbe d’oubli en loi de puissance.

Figure : La courbe d’oubli de la première révision pour des connaissances nouvellement apprises, collectée avec SuperMemo. L’approximation en loi de puissance est utilisée dans ce cas en raison de l’hétérogénéité du matériel d’apprentissage nouvellement introduit dans le processus. L’absence de séparation par complexité mnésique entraîne une superposition d’oublis exponentiels avec des constantes de décroissance différentes. Sur un graphique semi-logarithmique, la courbe de régression en loi de puissance est logarithmique (en jaune), et apparaît presque droite. La courbe montre que, dans le cas présenté, le rappel ne chute qu’à 58 % en quatre ans, ce qui peut s’expliquer par une forte réutilisation des connaissances mémorisées dans la vie réelle. Le premier intervalle optimal de révision pour une récupérabilité de 90 % est de 3,96 jours. La courbe d’oubli peut être décrite par la formule R=0,9907*power(intervalle,-0,07), où 0,9907 est le rappel après un jour, tandis que -0,07 est la constante de décroissance. Dans ce cas, la formule donne 90 % de rappel après 4 jours. 80 399 cas de répétitions ont été utilisés pour tracer le graphique présenté. Une chute plus abrupte du rappel se produira si le matériel contient une proportion plus élevée de connaissances difficiles (en particulier des connaissances mal formulées), ou chez de nouveaux étudiants ayant de moindres compétences mnémoniques. L’irrégularité de la courbe aux intervalles 15-20 provient d’un échantillon de répétitions plus restreint (les catégories d’intervalles ultérieures, sur une échelle logarithmique, englobent une plage d’intervalles plus large)

1995 : SuperMemo hypermédia

Naissance de l’algorithme SM-8 dans un refuge de montagne

En 1995, SuperMemo a été entièrement réécrit à partir de zéro, et ce fut une occasion idéale pour mettre en œuvre un nouvel algorithme de répétition espacée basé sur les données recueillies durant les 4 années d’utilisation de l’ algorithme SM-6.

En mars 1995, au CeBIT de Hanovre, nous avons découvert un fantastique nouvel environnement de développement de Borland : Delphi. Il a fait passer l’ancien Borland Pascal à un niveau supérieur et ouvert des dizaines de possibilités de développement pour SuperMemo. Nous avons décidé de repenser le programme selon les lignes exposées dans ma thèse de doctorat. En plus de la répétition espacée, nous voulions disposer d’une structure de connaissances et de l’hypermédia. Au lieu d’une masse d’éléments, les utilisateurs construiraient un arbre de connaissances. Au lieu de l’ancien modèle question, réponse, image et son, nous voulions offrir tous les types de composants possibles, pouvant être combinés en nouvelles formes hypermédia pour exprimer les connaissances. Il y avait aussi le rêve d’un SuperMemo programmable, dans lequel les développeurs pourraient écrire leurs propres procédures pour toute forme d’entraînement, y compris l’entraînement procédural, la dactylographie, ou la résolution d’équations du second degré. Dans le même temps, nous avions rassemblé beaucoup de données indiquant que l’algorithme utilisé dans SuperMemo pouvait être amélioré. Par exemple, la nature mathématique de la matrice des facteurs optimaux était devenue assez évidente.

En mai 1995, j’ai emporté mon PC Pentium dans un refuge de montagne isolé du sud de la Pologne pour travailler sur ces idées. Ce fut une période de 100 jours d’isolement total, interrompue seulement par une courte visite de Krzysztof Biedalak, au cours de laquelle nous avons resynchronisé notre vision du futur SuperMemo. En septembre 1995, le nouvel algorithme était prêt et testé sur mes propres données. De retour à Poznan, j’ai commencé à transférer progressivement tout mon processus d’apprentissage de plusieurs collections de SuperMemo 7 vers le nouvel environnement surnommé « Genius ». Genius est devenu SuperMemo 8 seulement deux ans plus tard, lorsque le nouveau programme a intégré toutes les fonctionnalités qui étaient à l’origine disponibles dans SuperMemo 7.

Les principales données qui ont aidé à développer l’algorithme SM-8 étaient les courbes d’oubli et les données de la matrice OF collectées avec SuperMemo 6 et SuperMemo 7. Ces données ont considérablement réduit la part de conjecture dans l’algorithme. Le travail fut plutôt facile en comparaison de l’ algorithme SM-17 (2014-2016), pour lequel j’avais des montagnes d’historiques de répétitions à traiter, et les exigences de précision et de bonnes métriques avaient triplé. Alors que l’algorithme SM-17 a nécessité deux ans de développement, l’algorithme SM-8 a été conçu, mis en œuvre et bien testé en seulement 100 jours.

Les principales idées derrière l’algorithme SM-8 :

• une détermination mathématique précise de la matrice OF basée sur des approximations en direct. Au lieu du lissage matriciel connu depuis SuperMemo 5, je voulais connaître la fonction mathématique exacte capable de décrire la matrice et de permettre des mises à jour en direct. Il fut facile de déterminer qu’une fonction de puissance négative pouvait décrire OF=f(RepNo) (ce qui est, en termes actuels, une expression de SInc=f(S)). Un peu plus de conjecture fut nécessaire pour l’impact de la difficulté sur l’ augmentation de stabilité (SInc). J’ai opté pour une approximation linéaire de la fonction associant la difficulté ( facteur A) à la constante de décroissance de SInc (facteur D), qui exprimait le déclin de l’ augmentation de stabilité avec la stabilité/l’intervalle. Ce pari linéaire a survécu jusqu’à aujourd’hui. C’était une bonne intuition.
• grâce à une bonne définition de la matrice OF, je pouvais fournir une définition précise de la difficulté d’un élément : au lieu d’un facteur E fluctuant, pouvant être contrôlé manuellement par les notes au gré de l’utilisateur, je voulais disposer d’un facteur A absolu de difficulté, défini comme l’ augmentation de stabilité après la première répétition programmée pour R=0,9. Cela a permis à SuperMemo d’ajuster la difficulté des éléments à chaque répétition, en corrigeant l’écart entre la performance de l’élément et la performance attendue basée sur la matrice OF
• une détermination plus rapide de la difficulté initiale, en corrélant la première note avec le facteur A. Il s’agit d’un mécanisme faible, d’importance limitée, comme le montre le fait que, même avec des historiques comportant plusieurs répétitions, la difficulté de l’élément reste un concept flou. Dans ce contexte, il faut rappeler aux utilisateurs que la meilleure approche consiste à bien formuler les éléments et à simplement les garder faciles
• l’approximation du premier intervalle post-trou de mémoire par un ajustement exponentiel basé sur le nombre de trous de mémoire. La plus grande valeur de cette approche fut d’abolir le mythe selon lequel raccourcir la longueur des intervalles en cas de trou de mémoire pouvait accélérer l’apprentissage (certains auteurs de logiciels basés sur l’algorithme SM-2 avaient opté pour cette solution, dont l’inexactitude a été démontrée)
• l’idée de corréler les notes avec l’ indice d’oubli fut un échec et n’a pas contribué à améliorer l’algorithme. Cette vérité s’est révélée lentement. Il a fallu près d’une décennie pour arriver au verdict final : les notes sont mal corrélées à l’indice d’oubli. L’intuition née avec l’ algorithme SM-2 n’est que faiblement correcte

Il est intéressant de noter que l’algorithme SM-8 ne nécessitait pas d’historique complet des répétitions pour les éléments. Les historiques complets de répétitions ne devaient être mis en œuvre qu’en février 1996. L’avantage était une mise en œuvre plus simple. L’inconvénient venait du fait qu’une fois que l’utilisateur intervenait manuellement dans le processus d’apprentissage, l’algorithme n’avait aucune trace de cette intervention et ne pouvait pas se défendre contre un possible afflux de données incorrectes. Naturellement, seul l’enregistrement complet de l’historique des répétitions a permis de mettre en œuvre l’ algorithme SM-17 deux décennies plus tard.

Ma première répétition « en direct » avec l’algorithme SM-8 sur mes propres données a eu lieu le mercredi 16 août 1995. Pour le test, j’ai « sacrifié » une petite collection de 100 éléments, avec une liste mnémonique de piquets pour mémoriser des nombres. Au cours des deux années suivantes, j’ai progressivement converti toutes mes autres collections pour fonctionner avec le nouvel algorithme, dans le nouvel environnement SuperMemo. En 1997, toutes mes connaissances avaient enfin été intégrées dans une seule base de données bien structurée. Entre 1995 et 1997, nous appelions une telle base de données un « système de connaissances ». Aujourd’hui, nous l’appelons simplement une collection (comme dans une collection de fragments de connaissances).

À ce jour, le cœur de l’algorithme né en 1995 fonctionne toujours en arrière-plan dans SuperMemo 17, et l’utilisateur peut toujours choisir des intervalles basés sur cet ancien algorithme s’il n’est pas satisfait des propositions de l’ algorithme SM-17.

Difficulté absolue des éléments

De SuperMemo 1.0 à SuperMemo 3.0, les facteurs E étaient définis de la même manière que les facteurs O (c’est-à-dire le rapport entre des intervalles successifs). Ils constituaient une mesure approximative de la difficulté de l’élément (plus le facteur E est élevé, plus l’élément est facile). Cependant, l’ optimisation de la répétition espacée forçait les facteurs E à correspondre à l’ augmentation de stabilité, laquelle diminue avec la stabilité. En d’autres termes, par définition, dans l’ algorithme SM-2, les éléments étaient qualifiés de plus en plus « difficiles » à mesure qu’ils subissaient des répétitions successives. C’est un peu contre-intuitif, et les utilisateurs ne semblaient jamais s’en apercevoir.

À partir de SuperMemo 4.0, les facteurs E ont servi à indexer la matrice des facteurs O. Ils continuaient de refléter la difficulté de l’élément. Ils continuaient de servir au calcul des facteurs O. Cependant, ils pouvaient différer des facteurs O, offrant ainsi un meilleur reflet de la difficulté.

De SuperMemo 4 à SuperMemo 7, la difficulté du matériel dans une base de données donnée façonnait la relation entre les facteurs O et les facteurs E. Par exemple, dans une collection facile, le facteur O de départ (c’est-à-dire celui correspondant à la première répétition et à la difficulté initiale supposée) serait relativement élevé. Comme la performance lors des répétitions détermine les facteurs E, des éléments de même difficulté dans une collection facile auraient naturellement un facteur E plus faible que les mêmes éléments exactement dans une collection difficile. Tout cela a changé avec SuperMemo 8, où les facteurs A ont été introduits. Les facteurs A sont « liés » à la deuxième ligne de la matrice des facteurs O. Cela en fait une mesure absolue de la difficulté de l’élément. Leur valeur ne dépend pas du contenu de la collection . Par exemple, on sait que si le facteur A est de 1,5, la troisième répétition aura lieu selon un intervalle 50 % plus long que le premier intervalle.

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

Le facteur A est un nombre associé à chaque élément d’une collection. Le facteur A détermine dans quelle mesure les intervalles augmentent au cours du processus d’apprentissage. Plus le facteur A est élevé, plus les intervalles augmentent rapidement. Les facteurs A reflètent la difficulté de l’élément. Plus le facteur A est élevé, plus l’ élément est facile. Les éléments les plus difficiles ont un facteur A égal à 1,2. Le facteur A est défini comme le quotient du second intervalle optimal et du premier intervalle optimal utilisés lors des répétitions

Intervalle post-trou de mémoire

L’approximation de l’intervalle post-trou de mémoire dans l’algorithme SM-8 a aboli deux mythes :

• raccourcir les intervalles après un trou de mémoire est une bonne idée (cette idée a été défendue à plusieurs reprises entre 1991 et 2000)
• le premier intervalle devrait toujours être d’un jour (comme dans certaines anciennes solutions de SuperMemo)

Dans le graphique présenté ci-dessous, on peut voir qu’avec les trous de mémoire successifs, l’intervalle optimal post-trou de mémoire devient légèrement plus court. Cela n’exprime rien d’autre que le fait que ces nombres élevés de trous de mémoire ne sont atteints que par des éléments mal formulés, ou des éléments réellement difficiles à retenir en raison de leur nature sémantique ou d’une interférence des connaissances. Pour les souvenirs commençant avec Lapse=10, j’ai proposé le terme « toxique » pour exprimer leur impact sur le processus d’apprentissage. Si le cerveau a rejeté une information autant de fois, cela devrait nous alerter : cette connaissance est mal formulée ou est devenue toxique pour d’autres raisons (par exemple le stress associé à l’apprentissage, par exemple à l’école).

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

Premier intervalle – la longueur du premier intervalle après la première répétition dépend du nombre de fois qu’un élément donné a été oublié. Notez que la « première répétition » ici désigne la première répétition après un oubli, et non la toute première répétition. En d’autres termes, un élément déjà répété deux fois aura un numéro de répétition égal à un après avoir été oublié ; ce numéro ne sera pas égal à trois. Le graphique du premier intervalle montre une courbe de régression exponentielle qui approxime la longueur du premier intervalle pour différents nombres de trous de mémoire (y compris la catégorie zéro trou de mémoire, correspondant aux éléments nouvellement mémorisés). Dans le graphique ci-dessous, les cercles bleus correspondent aux données collectées lors du processus d’apprentissage (plus le cercle est grand, plus de répétitions ont été enregistrées).

Figure : dans le graphique ci-dessus, qui comprend des données provenant de plus de 130 000 répétitions, les éléments nouvellement mémorisés sont répétés de façon optimale après sept jours. Cependant, les éléments oubliés 10 fois (ce qui est rare dans SuperMemo) nécessiteront un intervalle de deux jours. (En raison de l’échelle logarithmique, la taille du cercle n’est pas linéairement proportionnelle à l’échantillon de données ; le nombre de cas de répétitions pour Lapses=0 est bien plus important que pour Lapses=10, comme on peut le voir dans Distributions : Lapses)

Première note contre facteur A

Corréler la première note avec la difficulté estimée de l’élément devait aider à classer les éléments par difficulté à leur entrée dans le processus d’apprentissage. La corrélation semble faible et dépend fortement du système de notation de l’utilisateur. Pour certains utilisateurs, il n’y a pratiquement aucune corrélation (image n°1). Pour d’autres, la corrélation est suffisamment bonne pour couvrir toute la plage de difficulté (facteur A) (image n°2).

De plus, dans l’algorithme SM-11, dérivé de l’algorithme SM-8, l’utilisateur était autorisé à effectuer des répétitions anticipées. Ces répétitions tiendraient compte de l’ effet d’espacement, mais elles contribueraient malgré tout au graphique et surestimeraient la note des éléments difficiles. Avec un usage intensif de la lecture incrémentale, cela aplatirait le graphique.

L’ algorithme SM-17 n’utilise pas la corrélation note-difficulté et dérive la difficulté de l’historique complet des répétitions. La pratique montre que même ainsi, l’estimation reste difficile à établir, et la bonne pratique d’apprentissage consiste à garder tous les éléments faciles (c’est-à-dire en adéquation mnémonique acceptable avec le reste des connaissances de l’étudiant).

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

Première note contre facteur A – le graphique G-AF corrèle la première note obtenue par un élément avec l’estimation finale de la valeur de son facteur A. À chaque répétition, l’ancienne estimation du facteur A de l’élément actuel est retirée du graphique, et la nouvelle estimation est ajoutée. Ce graphique est utilisé par l’ algorithme SM-15 pour estimer rapidement la première valeur du facteur A au moment où tout ce que l’on sait d’un élément est la première note qu’il a obtenue lors de sa première répétition.

Note contre indice d’oubli

En corrélant les notes avec l’indice d’oubli attendu ( récupérabilité prédite), j’espérais pouvoir calculer l’indice d’oubli estimé (estimation post-répétition de la récupérabilité réelle). Cette corrélation s’est révélée faible, du fait que tous les utilisateurs tendent à déployer leurs propres systèmes de notation, souvent incohérents. La corrélation entre note et R provient principalement du fait que les éléments complexes obtiennent de moins bonnes notes et ont tendance à être oubliés plus vite (au moins au début). En ce sens, les notes reflètent mieux la complexité que la récupérabilité.

Dans l’image ci-dessous, toute la plage de l’indice d’oubli attendu semble se situer autour de la note 3.

Pour Note<=3, on peut lire l’indice d’oubli estimé maximal, et pour Note>=4, on peut lire l’indice d’oubli estimé minimal. Dans cette optique, deux systèmes de notation auraient exactement le même effet sur l’algorithme qu’un système à six notes.

Pour d’autres utilisateurs, la courbe pourrait même culminer à certains niveaux de l’indice d’oubli attendu, comme si la notation reflétait un désir de retenir les éléments réellement difficiles à mémoriser (notation indulgente).

L’ algorithme SM-17 fait un usage intensif de la récupérabilité estimée après la répétition, mais il la dérive des seules données de rappel et de la récupérabilité attendue. Les corrélations note-récupérabilité sont également collectées, mais leur poids est négligeable.

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

Note contre indice d’oubli – le graphique FI-G corrèle l’indice d’oubli attendu avec la note obtenue lors des répétitions. Il faut comprendre l’ algorithme SM-15 pour comprendre ce graphique. On peut imaginer que le graphique de la courbe d’oubli pourrait utiliser la note moyenne au lieu de la rétention sur son axe vertical. Si l’on corrélait cette note avec l’ indice d’oubli, on obtiendrait le graphique FI-G. Ce graphique est utilisé pour calculer un indice d’oubli estimé, qui est à son tour utilisé pour normaliser les notes (pour les répétitions retardées ou anticipées) et estimer la nouvelle valeur du facteur A de l’élément. La note est calculée à l’aide de la formule : Note=exp ^A*FI+B , où A et B sont les paramètres d’une régression exponentielle réalisée sur les données brutes collectées durant les répétitions.

Le graphique FI-G est mis à jour après chaque répétition en utilisant l’indice d’oubli attendu et les notes réellement obtenues. L’indice d’oubli attendu peut facilement être dérivé de l’intervalle utilisé entre les répétitions et de l’intervalle optimal calculé à partir de la matrice OF. Plus la valeur de l’indice d’oubli attendu est élevée, plus la note est basse. À partir de la note et du graphique FI-G, on peut calculer l’indice d’oubli estimé, qui correspond à l’estimation post-répétition de la probabilité d’oubli de l’élément qui vient d’être répété, à l’hypothétique stade pré-répétition. En raison de la nature stochastique de l’oubli et du rappel, le même élément pourrait être rappelé ou non selon l’état cognitif global actuel du cerveau ; même si la force et la récupérabilité des souvenirs de toutes les synapses contributrices étaient/sont identiques ! On peut ainsi parler de la probabilité de rappel pré-répétition d’un élément qui vient d’être rappelé (ou non). Cette probabilité est exprimée par l’indice d’oubli estimé.

Algorithme SM-15

L’algorithme SM-8 a été amélioré au fil des ans et a évolué vers l’algorithme SM-11 (2002), puis l’algorithme SM-15 (2011). Je présente ici uniquement la dernière version : l’algorithme SM-15 (utilisé dans SuperMemo 15, SuperMemo 16, et comme secours dans SuperMemo 17).

Les principales améliorations apportées à l’algorithme SM-8 sur deux décennies ont été les suivantes :

• une indexation de la stabilité améliorée : au lieu d’utiliser les numéros de répétition, à partir de SuperMemo 8 (1997), l’algorithme a utilisé le concept de « catégorie de répétition », qui correspond à peu près à la stabilité
• une tolérance pour les répétitions avancées et retardées, à partir de SuperMemo 11 (2002) : une heuristique a été ajoutée pour tenir compte de l’ effet d’espacement
• une extension de la représentation du temps dans les facteurs U, de 60 jours à 15 ans (2011)
• une correction des données de la courbe d’oubli pour les délais de répétition dépassant l’amplitude initiale du facteur U (2011)

Avertissement sur les archives : pourquoi utiliser des archives littérales ?

L’algorithme SM-15 amorce l’effort de calcul des intervalles inter-répétitions optimaux en enregistrant l’historique de rappel de chaque élément (c’est-à-dire les notes obtenues lors de l’apprentissage). Cet historique est utilisé pour estimer la force actuelle d’une trace mnésique donnée, ainsi que la difficulté de la connaissance sous-jacente (l’élément). La difficulté de l’élément exprime la complexité des souvenirs et reflète l’effort nécessaire pour produire des traces mnésiques stables et sans ambiguïté. SuperMemo prend le taux de rappel demandé comme critère d’optimisation (par exemple 95 %), et calcule les intervalles qui satisfont ce critère. La fonction des intervalles optimaux est représentée sous forme matricielle (matrice OF) et est susceptible d’être modifiée en fonction des résultats du processus d’apprentissage. Bien que satisfaire le critère d’optimisation soit relativement facile, la complexité de l’algorithme provient de la nécessité d’obtenir la vitesse de convergence maximale possible à la lumière des modèles de mémoire connus.

Important ! L’algorithme SM-15 n’est utilisé que pour calculer les intervalles entre les répétitions des éléments. Les sujets sont révisés à des intervalles calculés à l’aide d’un algorithme entièrement différent (non décrit ici). Le calendrier de révision des sujets est optimisé pour gérer la séquence de lecture, et non pour favoriser la mémorisation. Les souvenirs à long terme se forment dans SuperMemo principalement grâce aux éléments, qui sont révisés selon le calendrier calculé par l’algorithme SM-15.

Voici une description plus détaillée de l’algorithme SM-15 :

1. Intervalle optimal : les intervalles inter-répétitions sont calculés à l’aide de la formule suivante : I(1)=OF[1,L+1] I(n)=I(n-1)*OF[n,AF] où :
   • OF – matrice des facteurs optimaux, qui est modifiée au fil des répétitions
   • OF[1,L+1] – valeur de l’entrée de la matrice OF prise sur la première ligne et la colonne L+1
   • OF[n,AF] – valeur de l’entrée de la matrice OF correspondant à la n-ième répétition, pour une difficulté d’élément AF donnée
   • L – nombre de fois où un élément donné a été oublié (de «  Lapses de mémoire »)
   • AF – nombre reflétant la difficulté absolue d’un élément donné (de «  Facteur de difficulté Absolue »)
   • I(n) – n-ième intervalle inter-répétitions pour un élément donné
2. Répétitions avancées : en raison d’une éventuelle avance dans l’exécution des répétitions (par exemple une révision forcée avant un examen), le facteur optimal (OF) réellement utilisé pour calculer l’intervalle optimal est diminué de dOF selon des formules qui tiennent compte de l’effet d’espacement dans l’apprentissage :dOF=dOF _max* a/(t _half+ a) dOF _max=(OF-1)*(OI+t _half-1)/(OI-1) où :
   • dOF – diminution appliquée à OF résultant de l’ effet d’espacement
   • a – avance de la répétition en jours par rapport au calendrier optimal (notez qu’il n’y a aucun changement de OF si a=0, c’est-à-dire que la répétition a lieu au moment optimal)
   • dOF _max – limite asymptotique de dOF pour a infini (notez que pour a=OI-1, la diminution sera OF-1, ce qui correspond à aucune augmentation de l’intervalle inter-répétitions)
   • t _half – avance à laquelle on observe la moitié de l’augmentation attendue de la stabilité synaptique à la suite d’une répétition (actuellement, cette valeur correspond approximativement à 60 % de la longueur de l’intervalle optimal pour un matériel bien structuré)
   • OF – facteur optimal (c’est-à-dire OF[n,AF] pour le n-ième intervalle et une valeur donnée de AF)
   • OI – intervalle optimal (dérivé de la matrice OF)
3. Répétitions retardées : en raison de retards possibles dans l’exécution des répétitions, la matrice OF n’est pas indexée directement par le numéro de répétition mais par des catégories de répétition. Par exemple, si la 5e répétition est retardée, la matrice OF est utilisée pour calculer la catégorie de répétition, c’est-à-dire la valeur théorique du numéro de répétition correspondant à l’intervalle utilisé avant la répétition. La catégorie de répétition peut, par exemple, prendre la valeur 5,3, et nous obtiendrons I(5)=I(4)*OF[5.3,AF], où OF[5.3,AF] est une valeur intermédiaire dérivée de OF[5,AF] et OF[6,AF]
4. Matrice des intervalles optimaux : SuperMemo ne stocke pas la matrice des intervalles optimaux comme certaines versions antérieures. Il conserve plutôt une matrice de facteurs optimaux qui peut être convertie en matrice d’intervalles optimaux (selon la formule du point 1). La matrice de facteurs optimaux OF utilisée au point 1 a été dérivée du modèle mathématique de l’oubli ainsi que de matrices similaires construites à partir de données recueillies au fil des années de répétitions dans les collections créées par de nombreux utilisateurs. Son réglage initial correspond aux valeurs observées pour un étudiant légèrement en dessous de la moyenne. Au fil des répétitions, à mesure que le programme recueille des données sur la mémoire de l’étudiant, la matrice est progressivement modifiée pour se rapprocher au plus près des propriétés mnésiques réelles de l’étudiant. Après des années de répétitions, ces nouvelles données peuvent être réinjectées pour générer une matrice OF initiale plus précise. Dans SuperMemo 17, cette matrice peut être visualisée en 3D via Outils : Statistiques : Analyse : Graphiques 3D : matrice des facteurs O
5. Difficulté de l’élément : le facteur de difficulté absolue de l’élément ( facteur A), noté AF au point 1, exprime la difficulté d’un élément (plus il est élevé, plus l’élément est facile). Il convient de noter que AF=OF[2,AF]. En d’autres termes, AF représente le facteur d’augmentation de l’intervalle optimal après la deuxième répétition. Cela équivaut également au facteur d’augmentation d’intervalle le plus élevé pour un élément donné. Contrairement aux facteurs E de l’ algorithme SM-6 employés dans SuperMemo 6 et SuperMemo 7, les facteurs A expriment une difficulté absolue de l’élément et ne dépendent pas de la difficulté des autres éléments de la même collection de matériel d’étude
6. Dérivation de la matrice OF à partir de la matrice RF : les valeurs optimales des entrées de la matrice OF sont obtenues par une série de procédures d’approximation à partir de la matrice RF, définie de la même manière que la matrice OF (voir point 1), à l’exception que ses valeurs sont tirées du processus d’apprentissage réel de l’étudiant pour qui l’optimisation est effectuée. Au départ, les matrices OF et RF sont identiques ; cependant, les entrées de la matrice RF sont modifiées à chaque répétition, et une nouvelle valeur de la matrice OF est calculée à partir de la matrice RF à l’aide de procédures d’approximation. Cela produit en pratique la matrice OF comme une version lissée de la matrice RF. En termes simples, la matrice RF, à un instant donné, correspond à sa valeur la mieux ajustée dérivée du processus d’apprentissage ; cependant, chaque entrée est considérée comme la mieux ajustée individuellement, c’est-à-dire indépendamment des valeurs des autres entrées de RF. La matrice OF, en revanche, est considérée comme la mieux ajustée dans son ensemble. En d’autres termes, la matrice RF est calculée entrée par entrée au cours des répétitions, tandis que la matrice OF est une copie lissée de la matrice RF
7. Courbes d’oubli : les entrées individuelles de la matrice RF sont calculées à partir de courbes d’oubli approximées séparément pour chaque entrée. Chaque courbe d’oubli correspond à une valeur différente du numéro de répétition et à une valeur différente du facteur A (ou des lapses de mémoire dans le cas de la première répétition). La valeur de l’entrée de la matrice RF correspond au moment où la courbe d’oubli franchit le point de rétention des connaissances dérivé de l’indice d’oubli demandé. Par exemple, pour la première répétition d’un nouvel élément, si l’ indice d’oubli est égal à 10 %, et qu’après quatre jours la rétention des connaissances indiquée par la courbe d’oubli descend sous la valeur de 90 %, la valeur de RF[1,1] est fixée à quatre. Cela signifie que tous les éléments entrant dans le processus d’apprentissage seront répétés après quatre jours (en supposant que les matrices OF et RF ne diffèrent pas à la première ligne de la première colonne). Cela satisfait le postulat principal de SuperMemo, selon lequel la répétition doit avoir lieu au moment où la probabilité d’oubli est égale à 100 % moins l’ indice d’oubli exprimé en pourcentage. Dans SuperMemo 17, les courbes d’oubli peuvent être consultées via Outils : Statistiques : Analyse : Courbes d’oubli (ou en 3D via Outils : Statistiques : Analyse : Courbes 3D) :Figure : Outils : Statistiques : Analyse : Courbes d’oubli pour 20 catégories de numéros de répétition multipliées par 20 catégories de facteur A. Sur l’image, les cercles bleus représentent les données recueillies au cours des répétitions. Plus le cercle est grand, plus le nombre de répétitions enregistrées est élevé. La courbe rouge correspond à la courbe d’oubli la mieux ajustée obtenue par régression exponentielle. Pour un matériel mal structuré, la courbe d’oubli est irrégulière, c’est-à-dire pas exactement exponentielle. La ligne turquoise horizontale correspond à l’indice d’oubli demandé, tandis que la ligne verte verticale indique le moment où la courbe d’oubli approximée croise cette ligne d’indice d’oubli demandé. Ce moment détermine la valeur du facteur R correspondant, et indirectement, la valeur de l’ intervalle optimal. Pour la première répétition, le facteur R correspond au premier intervalle optimal. Les valeurs du facteur O et du facteur R sont affichées en haut du graphique. Elles sont suivies du nombre de cas de répétition utilisés pour tracer le graphique (soit 21 303). Au début du processus d’apprentissage, il n’existe aucun historique de répétitions ni aucune donnée permettant de calculer les facteurs R. Il faut un certain temps avant que vos premières courbes d’oubli soient tracées. C’est pourquoi la valeur initiale de la matrice RF est tirée du modèle d’un étudiant légèrement en dessous de la moyenne. Le modèle de l’étudiant moyen n’est pas utilisé car la convergence à partir de paramètres d’un étudiant plus faible est plus rapide que la convergence dans le sens inverse. Le paramètre Écart affiché en haut indique dans quelle mesure la courbe exponentielle négative correspond aux données. Plus l’écart est faible, meilleur est l’ajustement. L’écart est calculé comme la racine carrée de la moyenne des différences au carré (méthode des moindres carrés).Figure : représentation 3D de la famille de courbes d’oubli pour une difficulté d’élément donnée et des niveaux de stabilité mnésique variables (normalisés pour le facteur U).Figure : courbe d’oubli  cumulative pour du matériel d’apprentissage de complexité mixte et de stabilité mixte. Le graphique est obtenu par superposition de 400 courbes d’oubli normalisées pour une constante de désintégration de 0,003567, ce qui correspond à un rappel de 70 % à 100 % de la période présentée (c’est-à-dire R=70 % sur le bord droit du graphique). 401 828 cas de répétition ont été inclus dans le graphique. Les courbes individuelles sont représentées par des points de données jaunes. La courbe cumulative est représentée par des points de données bleus montrant le rappel moyen pour les 400 courbes. La taille des cercles correspond à la taille des échantillons de données.
8. Dérivation de la matrice OF à partir des courbes d’oubli : la matrice OF est dérivée de la matrice RF par :
   1. une approximation en puissance à point fixe du déclin du facteur R le long des colonnes de la matrice RF (le point fixe correspond à la deuxième répétition, où la courbe d’approximation passe par la valeur du facteur A),
   2. le calcul, pour toutes les colonnes, du facteur D exprimant la constante de désintégration de l’approximation en puissance,
   3. une régression linéaire de l’évolution du facteur D à travers les colonnes de la matrice RF, et
   4. la dérivation de l’ensemble de la matrice OF à partir de la pente et de l’ordonnée à l’origine de la droite qui constitue le meilleur ajustement dans le graphique du facteur D. Les formules exactes utilisées dans cette dernière étape dépassent le cadre de cette illustration.
   Notez que la première ligne de la matrice OF est calculée différemment. Elle correspond à la courbe exponentielle la mieux ajustée obtenue à partir de la première ligne de la matrice RF. Toutes les étapes ci-dessus sont exécutées après chaque répétition. En d’autres termes, la valeur théoriquement optimale de la matrice OF est mise à jour dès que de nouvelles données de courbe d’oubli sont recueillies, c’est-à-dire au moment, pendant la répétition, où l’étudiant, en fournissant une note, indique un rappel correct ou incorrect (c’est-à-dire un oubli) (dans l’ algorithme SM-6, une procédure séparée, Approximate, devait être utilisée pour trouver la matrice OF la mieux ajustée, et la matrice OF utilisée lors des répétitions pouvait différer sensiblement de sa valeur la mieux ajustée)
9. Difficulté de l’élément : la valeur initiale du facteur A est dérivée de la première note obtenue pour l’élément, et du graphique de corrélation entre la première note et le facteur A (graphique G-AF). Ce graphique est mis à jour après chaque répétition où une nouvelle valeur du facteur A est estimée et corrélée avec la première note de l’élément. Les approximations ultérieures de la valeur réelle du facteur A sont effectuées après chaque répétition à l’aide des notes, de la matrice OF, et d’un graphique de corrélation montrant la correspondance entre la note et l’indice d’oubli attendu (graphique FI-G). La note utilisée pour calculer le facteur A initial est normalisée, c’est-à-dire ajustée en fonction de la différence entre l’intervalle réellement utilisé et l’intervalle optimal pour un indice d’oubli égal à 10 %
10. Corrélation entre les notes et l’indice d’oubli attendu : le graphique FI-G est mis à jour après chaque répétition à l’aide de l’ indice d’oubli attendu et des notes réellement obtenues. L’ indice d’oubli attendu peut facilement être dérivé de l’intervalle utilisé entre les répétitions et de l’ intervalle optimal calculé à partir de la matrice OF. Plus la valeur de l’ indice d’oubli attendu est élevée, plus la note est basse. À partir de la note et du graphique FI-G (voir : graphique FI-G dans Outils : Statistiques : Analyse : Graphiques), on peut calculer l’ indice d’oubli estimé correspondant à l’estimation, après la répétition, de la probabilité d’oubli de l’élément qui vient d’être répété, au stade hypothétique précédant la répétition. En raison de la nature stochastique de l’oubli et du rappel, un même élément peut être rappelé ou non selon l’état cognitif global du cerveau au moment considéré ; même si la force et la récupérabilité des souvenirs de toutes les synapses impliquées sont/étaient identiques ! On peut donc parler de la probabilité de rappel, avant la répétition, d’un élément qui vient d’être rappelé (ou non). Cette probabilité est exprimée par l’ indice d’oubli estimé
11. Calcul des facteurs A : à partir (1) de l’ indice d’oubli estimé, (2) de la longueur de l’intervalle et (3) de la matrice OF, on peut facilement calculer la valeur la plus précise du facteur A. Notez que le facteur A sert d’index à la matrice OF, tandis que l’ indice d’oubli estimé permet de trouver la colonne de la matrice OF pour laquelle l’ intervalle optimal correspond à l’intervalle réellement utilisé, corrigé de l’écart entre l’ indice d’oubli estimé et l’indice d’oubli demandé. À chaque répétition, une moyenne pondérée est calculée entre l’ancien facteur A et la nouvelle valeur estimée du facteur A. Le facteur A ainsi obtenu est utilisé pour indexer la matrice OF lors du calcul du nouvel intervalle inter-répétitions optimal

En résumé. Les répétitions permettent de calculer un ensemble de paramètres caractérisant la mémoire de l’étudiant : la matrice RF, le graphique G-AF et le graphique FI-G. Ils servent aussi à calculer les facteurs A de chaque élément, qui caractérisent la difficulté du matériel appris. La matrice RF est lissée pour produire la matrice OF, qui est ensuite utilisée pour calculer l’intervalle inter-répétitions optimal pour des éléments de difficulté différente ( facteur A) et de nombre de répétitions différent (ou de lapses de mémoire dans le cas de la première répétition). Au départ, tous les paramètres mnésiques de l’étudiant sont considérés comme ceux d’un étudiant légèrement en dessous de la moyenne (car cela donne une convergence plus rapide qu’un profil moyen ou supérieur), tandis que tous les facteurs A sont supposés égaux (inconnus).

1997 : l’emploi des réseaux de neurones

Réseaux de neurones : un intérêt naissant

Au milieu des années 1980, j’ai lu «  Brains, Machines and Mathematics » de Michael Arbib. Cet ouvrage a consolidé ma vision du cerveau comme une machine de calcul efficace.

Pour quiconque s’intéresse au fonctionnement du cerveau, et c’est le cas de presque tout le monde, les réseaux de neurones sont naturellement fascinants. En étudiant l’informatique, j’ai acquis une nouvelle perspective, computationnelle, du cerveau et des réseaux de neurones. Comme les réseaux de neurones ont une capacité étonnante à modéliser eux-mêmes les données, il peut sembler naturel de les employer pour étudier les données de mémoire et répondre à la question du fonctionnement de la mémoire. Cependant, les réseaux de neurones ont un inconvénient majeur : ils ne partagent pas facilement leurs découvertes. C’est un peu comme le problème du cerveau lui-même : il peut accomplir des choses magiques, et pourtant il est difficile de dire ce qui se passe réellement à l’intérieur. Il est amusant d’écrire un logiciel de réseau de neurones, je m’y suis essayé en 1989. C’est un peu moins amusant de voir un réseau de neurones à l’œuvre.

L’approche algébrique de SuperMemo a devancé les réseaux de neurones pour deux raisons : (1) mes questions sur la mémoire m’ont toujours semblé trop simples pour justifier des réseaux de neurones, et (2) les réseaux ont besoin de données, qui ont besoin d’apprentissage, qui a besoin d’un algorithme, qui a besoin de répondre à des questions simples. Dans cette course de l’œuf et de la poule, mon cerveau avait toujours une longueur d’avance sur ce que j’aurais pu déduire des données disponibles avec un réseau de neurones.

La supériorité de l’approche algébrique est évidente si l’on considère que l’intervalle optimal peut être trouvé simplement en traçant une courbe d’oubli et en utilisant une régression pour trouver le point où le rappel descend sous 90 %. C’était encore plus extrême dans mon expérience de 1985, où ma « courbe d’oubli » n’était constituée que de 5 points. Je pouvais simplement choisir celui qui me plaisait le plus. C’était un exercice de niveau maternelle. Pas besoin de grosse artillerie.

En 1990, en travaillant sur le modèle d’apprentissage intermittent, je me suis le plus approché de l’emploi des réseaux de neurones. Après une discussion de sept heures avec Murakowski le 6 juillet 1990, nous avons conclu qu’un réseau de neurones pourrait apporter certaines réponses. Cependant, mon ordinateur était déjà en train de traiter des données à l’aide de méthodes algébriques de montée de gradient (hill-climbing). Dans l’essence, cela ressemble à l’extraction de caractéristiques dans les réseaux de neurones. Une fois mes réponses obtenues, cette motivation a disparu.

Néanmoins, au milieu des années 1990, nous recevions de plus en plus de questions sur l’adaptabilité de l’algorithme et sur la possibilité d’employer des réseaux de neurones. Ces questions venaient principalement de personnes qui ne comprenaient pas très bien SuperMemo. Le modèle derrière SuperMemo est simple, les outils d’optimisation sont simples, et ils fonctionnent plutôt bien à notre satisfaction. La toute première approche computationnelle, l’ algorithme SM-2, est encore utilisée aujourd’hui. L’insatisfaction humaine face à la mémoire provient généralement d’attentes déraisonnables forgées par les programmes scolaires, ainsi que de notre faible capacité à formuler les connaissances pour une consommation saine. Cette dernière habitude est aussi entretenue par la pression du bourrage de crâne héritée de l’école. Les algorithmes de SuperMemo ne peuvent pas remédier à cette insatisfaction envers l’apprentissage. Ils ont toujours bien fonctionné, et les trente dernières années ont apporté des progrès mesurables mathématiquement, mais qui ne se traduisent pas facilement par une augmentation du plaisir d’apprendre.

La poussée en faveur des réseaux de neurones

Dans les années 1990, le courrier adressé à SuperMemo World laissait souvent entendre que l’approche par réseau de neurones serait supérieure. Même après une décennie d’utilisation de SuperMemo, un étudiant pouvait encore écrire :

SuperMemo ne tient pas compte des différentes capacités et besoins des utilisateurs. Il suppose au contraire que chaque apprenant est un « mauvais apprenant ». Ainsi, chaque apprenant aura le même intervalle de répétition, son algorithme sous-jacent est figé, ce qui peut ne pas être très efficace si vous êtes un apprenant meilleur ou différent. […] Les réseaux de neurones tiennent compte du fait qu’il existe des types d’apprenants très différents ayant besoin d’intervalles de répétition optimaux différents. En révisant de nouveaux mots et en « indiquant » aux programmes leur degré de réussite ou d’échec, l’apprenant révèle progressivement quel type d’apprenant il est réellement. Grâce à ce retour d’information, les programmes sont capables de s’adapter et d’optimiser leurs intervalles de répétition sous-jacents si nécessaire

Ces propos témoignent d’une méconnaissance de SuperMemo. SuperMemo n’utilise pas un « modèle de mauvais étudiant ». Il ne part de simplement d’intervalles plus courts qu’avant d’avoir recueilli les premières données sur la mémoire de l’étudiant. Le choix d’intervalles plus courts découle d’une approximation plus rapide du modèle optimal. En d’autres termes, SuperMemo s’adapte à chaque étudiant, et le « modèle d’étudiant légèrement en dessous de la moyenne » ne peut être attribué qu’au point de départ, avant que la moindre donnée ne soit recueillie.

Dans SuperMemo, le modèle de l’étudiant moyen n’est utilisé que comme condition initiale dans le processus de recherche du modèle de la mémoire réelle de l’étudiant.

Dans une optimisation de trajectoire à dimension finie, la convergence est la plus rapide lorsque l’estimation initiale de l’état est bonne. Bien que ce ne soit pas le cas dans SuperMemo, en raison de la nature relativement simple, à trois dimensions, de la fonction des intervalles optimaux, dans le cas général, la recherche de solutions peut échouer et l’optimisation ne pas fonctionner. Contrairement aux matrices univoques utilisées dans les anciennes versions de SuperMemo à des fins de recherche, un algorithme de réseau de neurones produirait du chaos sans pré-entraînement. C’est pourquoi des données d’apprentissage antérieures sont utilisées pour mettre à jour le modèle d’étudiant moyen ou légèrement en dessous de la moyenne employé dans SuperMemo, afin d’obtenir la vitesse de convergence maximale.

Notez que cette approche de l’étudiant moyen est encore moins significative dans l’ algorithme SM-17, en raison de l’utilisation d’approximations optimales pour de multiples paramètres et fonctions du processus d’apprentissage (par exemple la difficulté de l’élément, la fonction d’augmentation de la stabilité, etc.). Cela signifie que SuperMemo tirera toujours le meilleur parti des données disponibles (en utilisant nos meilleures connaissances actuelles des modèles de mémoire).

La forme approximative de la courbe d’oubli est connue depuis plus d’un siècle (voir : l’erreur de la courbe d’oubli d’Ebbinghaus). SuperMemo recueille des données précises sur la forme des courbes d’oubli pour des éléments de difficulté et de stabilité mnésique différentes. À partir des courbes d’oubli, SuperMemo dérive facilement l’intervalle optimal. Les données ne proviennent que d’un seul étudiant, et chaque répétition contribue à la précision du calcul. En d’autres termes, à chaque minute passée avec SuperMemo, le programme vous connaît de mieux en mieux. Il vous connaît d’ailleurs suffisamment bien après un mois ou deux. Vous n’avez jamais à vous inquiéter de l’efficacité de l’algorithme.

Il existe une aura de mystique autour des réseaux de neurones. On leur attribue le pouvoir de révéler des propriétés cachées des phénomènes étudiés. Il est facile d’oublier que les réseaux peuvent facilement échouer lorsqu’ils sont alimentés par des informations erronées ou lorsqu’une information essentielle manque. Ce fut le cas du seul réseau de neurones fonctionnel utilisé en répétition espacée : MemAid, de David Calinski.

L’erreur dans la conception du réseau MemAid provenait de l’utilisation, en entrée, de l’intervalle et du nombre de répétitions pour représenter l’état de la mémoire, alors que ces deux variables ne correspondent pas au couple Stabilité : Récupérabilité. Il a été démontré que la stabilité et la récupérabilité sont nécessaires pour représenter l’état d’une trace mnésique à long terme. En d’autres termes, le réseau ne reçoit pas toutes les informations nécessaires pour calculer l’intervalle optimal. Une meilleure conception coderait l’historique complet des répétitions, par exemple à l’aide des variables de stabilité et de récupérabilité. Un historique complet des répétitions est nécessaire pour tenir compte de l’effet d’espacement lié à une présentation groupée, ou d’une augmentation significative de la stabilité pour des notes de réussite en répétitions retardées. La conception de Calinski répondrait cependant aux exigences de base pour un apprentissage à des intervalles « optimaux » avec peu d’écarts par rapport aux règles de la répétition espacée (autant que l’ algorithme SM-2).

SuperMemo est-il rigide ?

Il n’est pas vrai que SuperMemo soit biaisé alors qu’un réseau de neurones ne le serait pas. Rien n’empêche les matrices d’optimisation de SuperMemo de s’écarter du modèle de mémoire et de produire un résultat inattendu. Il est vrai qu’au fil des années, avec une connaissance toujours plus approfondie du fonctionnement de la mémoire, l’algorithme utilisé dans SuperMemo a été doté de restrictions et de sous-algorithmes personnalisés. Aucun d’entre eux n’a cependant résulté d’une supposition hasardeuse. La progression du « parti pris » dans les algorithmes de SuperMemo n’est que le reflet des découvertes des années précédentes. La même chose affecterait inévitablement toute implémentation par réseau de neurones qui chercherait à maximiser sa performance.

Il n’est pas vrai non plus que les valeurs initiales préréglées des matrices d’optimisation de SuperMemo constituent une forme de parti pris. Elles sont l’équivalent d’un pré-entraînement dans un réseau de neurones. Un réseau de neurones qui n’a pas été pré-entraîné convergera également plus lentement vers le modèle optimal. C’est pourquoi SuperMemo est « pré-entraîné » avec le modèle d’un étudiant moyen.

La vitesse d’augmentation des intervalles est déterminée par la matrice des intervalles optimaux et n’est en aucun cas constante. De plus, la matrice des intervalles optimaux évolue dans le temps en fonction des performances de l’utilisateur. Vous pouvez avoir l’impression d’un algorithme figé ou rigide seulement après des mois ou des années d’utilisation (la vitesse de changement est inversement proportionnelle à la quantité de données d’apprentissage disponibles). Cette convergence reflète l’invariance du système de mémoire humain. Peu importe que vous utilisiez l’approche algébrique ou l’approche neuronale du problème d’optimisation. Vous arriverez finalement à la fonction de répétition espacée qui reflète les propriétés réelles de votre mémoire. À cet égard, la vitesse de convergence devrait être considérée comme un critère de qualité de l’algorithme. En d’autres termes, plus vite la fonction d’intervalle devient « figée », mieux c’est.

Enfin, il existe un autre domaine où les réseaux de neurones doivent soit exploiter les connaissances existantes sur les modèles de mémoire (c’est-à-dire porter une dose de parti pris), soit perdre en efficacité. Le réseau de neurones expérimental de SuperMemo, MemAid, ainsi que FullRecall, ont tous montré une faiblesse inhérente. Le réseau atteint la stabilité lorsque les intervalles produisent l’effet souhaité (par exemple un niveau spécifique de l’indice d’oubli mesuré). Chaque fois que le réseau s’écarte du modèle optimal, il reçoit une estimation heuristique de la valeur de l’intervalle optimal en fonction de la note obtenue lors des répétitions (par exemple, une note de 5 correspondrait à 130 % de l’intervalle optimal dans SuperMemo NN ou à 120 % dans MemAid). Le SuperMemo algébrique, en revanche, peut calculer une estimation de la difficulté, utiliser une mesure précise de la rétention, et produire un ajustement précis de la valeur de la matrice d’ augmentation de la stabilité. En d’autres termes, il ne devine pas l’ intervalle optimal. Il en calcule la valeur exacte pour cette répétition particulière. Les ajustements des matrices de mémoire sont pondérés et produisent une convergence stable et non oscillante. En d’autres termes, c’est le modèle de mémoire qui permet d’éliminer le facteur de conjecture. À cet égard, le SuperMemo algébrique est moins biaisé que le SuperMemo à réseau de neurones.

La futilité de l’affinage de l’algorithme de répétition espacée

L’ algorithme SM-17 représente une avancée majeure, pourtant de nombreux utilisateurs ne remarqueront pas l’amélioration et resteront fidèles aux anciens algorithmes. Ce problème de perception a donné naissance au « mythe SM3+ », que j’ai tenté de dissiper dans cet article. En même temps, la valeur du nouvel algorithme pour la poursuite de la recherche est astronomique. En d’autres termes, il existe un grand décalage entre les besoins pratiques et les besoins théoriques. Mes propos dans une interview pour Enter, en 1994, restent d’actualité :

Nous avons déjà vu que l’évolution plaide en faveur de SuperMemo, que les découvertes en psychologie coïncident avec la méthode, et que les faits de la biologie moléculaire et les conclusions issues du modèle de Wozniak semblent aller de pair. Voici le moment de voir comment les mécanismes décrits ont été mis en œuvre dans le programme lui-même. Au fil des répétitions, SuperMemo trace la courbe d’oubli de l’étudiant et programme la répétition au moment où la rétention, c’est-à-dire la proportion de connaissances mémorisées, descend jusqu’à un niveau défini au préalable. En d’autres termes, SuperMemo vérifie combien vous vous souvenez après une semaine et, si vous vous souvenez moins que souhaité, il vous demande de faire des répétitions à des intervalles inférieurs à une semaine. Sinon, il vérifie la rétention après une période plus longue et augmente les intervalles en conséquence. Un petit hic dans ce tableau simple vient du fait que les éléments de difficulté différente doivent être répétés à des intervalles différents, et que les intervalles augmentent au fur et à mesure que le processus d’apprentissage progresse. De plus, les intervalles inter-répétitions optimaux doivent être connus pour un individu moyen, et ceux-ci doivent être utilisés avant que le programme ne puisse recueillir des données sur l’étudiant réel. Il doit évidemment y avoir tout un appareil mathématique pour mettre en œuvre l’ensemble du mécanisme. En résumé, Wozniak affirme qu’il y a eu dans sa vie au moins 30 jours où il a eu l’impression que les algorithmes utilisés dans SuperMemo avaient été sensiblement améliorés. Chacun de ces cas semblait constituer une avancée majeure. L’ensemble du processus de développement n’a été qu’une longue succession d’essais et d’erreurs, de tests, d’améliorations, de mises en œuvre de nouvelles idées, etc. Malheureusement, ces bons jours sont terminés. Aucune amélioration décisive de l’algorithme n’a eu lieu depuis 1991. On peut se consoler en constatant que, depuis lors, le logiciel a commencé à se développer rapidement, offrant à l’utilisateur de nouvelles options et solutions. SuperMemo peut-il alors devenir encore meilleur, plus rapide, plus efficace ? Wozniak est pessimiste. Tout affinage supplémentaire des algorithmes, l’application de l’intelligence artificielle ou des réseaux de neurones, serait noyé dans le bruit des interférences. Après tout, nous n’apprenons pas isolés du monde. Lorsque le programme programme la prochaine répétition dans 365 jours, et que le fait est rappelé par hasard plus tôt, SuperMemo n’a aucun moyen de savoir que ce rappel accidentel a eu lieu et exécutera la répétition au moment prévu initialement. Ce n’est pas optimal, mais cela ne peut être corrigé en améliorant l’algorithme. Améliorer SuperMemo aujourd’hui revient à régler finement un récepteur radio dans un atelier d’assemblage automobile bruyant. Les gens de SuperMemo World se concentrent désormais moins sur la science. Selon eux, après l’invention scientifique, le temps est venu de l’invention sociale de SuperMemo.

Le projet de réseau de neurones de Dreger

Le 20 mai 1997, mon ami virtuel de l’époque pré-web des BBS, Bartek Dreger, a eu une excellente idée. Il allait lui aussi écrire son mémoire de master sur SuperMemo à l’Institut d’informatique de l’École polytechnique de Poznań. Cela se passerait 8 ans après le mien, sauf qu’il utiliserait des réseaux de neurones pour voir comment ils se comportaient. Bien qu’il ait presque deux décennies de moins que moi, son projet consistait à le tenter au sein de la même formidable équipe de recherche opérationnelle de Węglarz que j’évoque souvent ailleurs dans ce texte. Dès 1990, le Dr Nawrocki avait eu l’idée d’utiliser des réseaux de neurones pour améliorer SuperMemo. Le grand esprit du professeur Roman Słowiński devait superviser le tout. Cela pouvait vraiment fonctionner.

En juin 1997, un autre de mes amis virtuels, Piotr Wierzejewski, a rejoint le projet. Puis trois autres étudiants en informatique se sont embarqués. C’était une charmante équipe de cinq jeunes cerveaux dont l’âge combiné atteignait 100 ans. Bientôt, le projet s’est étendu à l’idée d’un SuperMemo en ligne, surnommé WebSorb (pour l’absorption des connaissances issues du web). Comme cela arrive souvent avec des équipes jeunes et enthousiastes, nous avons commencé à en faire trop, et finalement seule une fraction des objectifs a été atteinte. Seule l’idée du SuperMemo en ligne a continué à évoluer et à se ramifier de façon sinueuse, avec la naissance et la mort de plusieurs mini-projets (par exemple e-SuperMemo, Quizer, Super-Memorizer, Memorathoner, etc.) jusqu’à l’émergence de 3GEMs, devenu supermemo.net, qui a finalement évolué vers l’actuel supermemo.com.

Le plus grand atout de la jeunesse dans des projets de ce genre est la créativité et la passion. Le plus grand obstacle est la scolarité, puis, plus tard, d’autres obligations, y compris avoir des enfants. Ce fantastique vivier de cerveaux a été victime du problème ancestral de l’école : transformer un projet né de la passion en une corvée scolaire, avec échéances, rapports, contrôles, examens et notes. Comme expliqué ici, SuperMemo est lui aussi né dans cet environnement scolaire risqué. La clé du succès, c’est le combat pour la liberté. La servitude tue les passions. L’idée de SuperMemo a survécu à la pression de la scolarité grâce à mon combat pour la liberté éducative.

SuperMemo à réseau de neurones : pourquoi le modèle de mémoire est essentiel dans les algorithmes de SuperMemo

L’extraction de caractéristiques proposée pour les réseaux de neurones de répétition espacée s’appuie sur l’existence bien établie de deux composantes de la mémoire à long terme, décrites ici.

Les deux variables mnésiques suffisent à représenter l’état d’une trace mnésique atomique en apprentissage. Ces variables permettent de calculer les intervalles optimaux et de tenir compte de l’ effet d’espacement. La fonction d’augmentation de la stabilité mnésique pour les répétitions retardées est également connue. Pour ces raisons, un algorithme d’optimisation simple permet de déterminer facilement et rapidement l’espacement optimal des répétitions dans SuperMemo. Un réseau de neurones devrait coder l’historique complet des répétitions pour chaque élément, et les choix de codage les plus évidents sont la stabilité mnésique (S) et la récupérabilité mnésique (R). En d’autres termes, les mêmes hypothèses sous-tendent la conception des algorithmes d’espacement des répétitions, qu’ils soient algébriques ou neuronaux. Il va sans dire que la solution algébrique est simple et rapide. Elle converge vite. Elle ne nécessite aucun pré-entraînement (le modèle de mémoire est encapsulé dans la matrice des intervalles optimaux).

Un réseau de neurones travaillant avec des historiques complets de répétitions produira le même résultat qu’un algorithme de montée de gradient employé pour construire la stabilité de la mémoire. La montée de gradient est simplement un outil meilleur/plus rapide pour cette tâche. Elle portera les mêmes limites que les réseaux de neurones, c’est-à-dire que les réponses seront à la hauteur de la question posée.

SuperMemo à réseau de neurones : conception

Avec Bartek Dreger, nous avons conçu un système ANN simple pour traiter le problème de l’espacement des répétitions (décembre 1997). Notez que ce projet n’aurait pas été possible sans l’expertise du Dr Krzysztof Krawiec, qui a aidé à peaufiner la conception :

Avertissement sur les archives : pourquoi utiliser des archives littérales ?

Le problème de l’espacement des répétitions consiste à calculer les intervalles inter-répétitions optimaux dans le processus d’apprentissage humain. Les intervalles sont calculés pour des éléments individuels d’information (appelés plus loin des éléments) et pour un individu donné. L’ensemble des données d’entrée sont les notes obtenues par l’étudiant lors des répétitions des éléments dans le processus d’apprentissage. Jusqu’à présent, ce problème a été résolu le plus efficacement au moyen d’une série successive d’algorithmes connus commercialement sous le nom de SuperMemo et développés par le Dr Wozniak chez SuperMemo World, en Pologne. Le modèle de mémoire de Wozniak, utilisé pour développer la version la plus récente de l’algorithme (l’ algorithme SM-8), ne peut être considéré comme la description algébrique ultime de la mémoire humaine à long terme. Plus particulièrement, la relation entre la complexité du motif synaptique et la difficulté de l’élément n’est pas bien comprise. Cette relation pourrait être mieux éclairée une fois qu’un réseau de neurones sera employé pour fournir une correspondance adéquate entre l’état de la mémoire, la notation et la difficulté de l’élément.

Avec les solutions actuelles de pointe, la faisabilité technique d’une application de réseau de neurones dans un processus d’apprentissage en temps réel semble dépendre d’une application appropriée de la compréhension du processus d’apprentissage pour définir adéquatement les problèmes qui seront posés au réseau de neurones. Il serait impossible d’attendre du réseau qu’il génère la solution en recevant en entrée l’historique des notes attribuées au cours des répétitions de milliers d’éléments. La complexité computationnelle et spatiale d’une telle approche dépasserait naturellement de loin la capacité du réseau à apprendre et à répondre en temps réel.

En utilisant le modèle de Wozniak des deux composantes de la mémoire à long terme, nous postulons que la solution de réseau de neurones suivante pourrait aboutir à une convergence rapide et à une grande précision de l’espacement des répétitions.

Les deux variables mnésiques nécessaires pour décrire l’état d’un engramme donné sont la récupérabilité (R) et la stabilité (S) de la mémoire ( Wozniak, Gorzelańczyk, Murakowski, 1995). L’équation suivante relie R et S :

(1) R=e ^-k/S*t

où :

• k est une constante
• t est le temps

En utilisant l’équation (1), nous pouvons déduire l’évolution de la récupérabilité dans le temps pour une stabilité donnée, ainsi que déterminer l’intervalle inter-répétitions optimal pour une stabilité et un indice d’oubli donnés.

La forme algébrique exacte de la fonction décrivant l’évolution de la stabilité lors d’une répétition n’est pas connue. Cependant, les données expérimentales indiquent que la stabilité augmente généralement de 1,3 à 3 fois pour des répétitions bien synchronisées, et dépend de la difficulté de l’élément (plus la difficulté est grande, plus l’augmentation est faible). En fournissant l’approximation de l’espacement optimal des répétitions tirée des données expérimentales, telle que produite par les matrices d’optimisation de l’ algorithme SM-8, le réseau de neurones peut être pré-entraîné pour calculer la fonction de stabilité :

(2) S _i+1=f _s(R,Si,D,G)

où :

• S _i est la stabilité après la i-ième répétition
• R est la récupérabilité avant la répétition
• D est la difficulté de l’élément
• G est la note attribuée à la i-ième répétition

La fonction de stabilité est la première fonction à être déterminée par le réseau de neurones. La seconde est la fonction de difficulté de l’élément, avec des paramètres d’entrée analogues :

(3) D _i+1=f _d(R,S,Di,G)

où :

• D _i est l’approximation de la difficulté de l’élément après la i-ième répétition
• R est la récupérabilité avant la répétition
• S est la stabilité après la i-ième répétition
• G est la note attribuée à la i-ième répétition

Par conséquent, un réseau de neurones à quatre entrées (D, R, S et G) et deux sorties (S et D) peut être utilisé pour encapsuler l’ensemble des connaissances nécessaires au calcul des intervalles inter-répétitions (voir : implémentation du réseau de neurones d’espacement des répétitions).

L’approche suivante sera adoptée afin de vérifier la faisabilité de l’approche susmentionnée :

1. le pré-entraînement du réseau de neurones se fera sur la base des fonctions S et D approximées, dérivées des fonctions utilisées dans l’ algorithme SM-8 et des données expérimentales qui en découlent
2. un tel réseau pré-entraîné sera implémenté sous forme de plug-in DLL de SuperMemo, qui remplacera le sm8opt.dll standard utilisé par SuperMemo 8 pour Windows. L’entraînement du réseau se poursuivra dans un processus d’apprentissage réel lors des tests alpha de la DLL de réseau de neurones. Une procédure conçue spécifiquement pour l’expérience sera utilisée pour fournir des résultats cumulatifs et un réseau de neurones résultant. Cette procédure utilisera les réseaux de neurones employés lors des tests alpha pour entraîner le réseau qui participera aux tests bêta. Les réseaux des tests alpha seront alimentés par une matrice de paramètres d’entrée, et leur sortie sera utilisée comme données d’entraînement pour le réseau résultant
3. Dans la dernière étape, les tests bêta du réseau de neurones seront ouverts à tous les volontaires sur Internet, directement depuis le site Web de SuperMemo. Il ne sera demandé aux volontaires que de soumettre leurs réseaux résultants pour l’étape finale de l’expérience, au cours de laquelle le réseau ultime sera développé. Là encore, tous les réseaux issus des tests bêta seront utilisés pour entraîner le réseau résultant. Les futurs utilisateurs du SuperMemo à réseau de neurones (si le projet s’avère réussi) obtiendront un réseau doté d’une bonne compréhension de la mémoire humaine et capable d’affiner davantage ses réactions face aux interférences du processus d’apprentissage avec les activités quotidiennes d’un étudiant particulier et d’un matériel d’étude particulier.

Le principal problème de tous les algorithmes d’espacement est le délai entre la comparaison de la sortie de la fonction des intervalles optimaux et le résultat de l’application, en pratique, d’un intervalle inter-répétitions donné. À chaque répétition, l’état du réseau lors de la répétition précédente doit être mémorisé afin de générer le nouvel état du réseau. En pratique, cela équivaut à stocker un nombre énorme d’états du réseau entre les répétitions.

Heureusement, le modèle de Wozniak implique que les fonctions S et D sont indépendantes du temps (il est intéressant de noter qu’elles sont probablement aussi indépendantes de l’utilisateur !) ; l’approche suivante peut donc être adoptée pour simplifier la procédure :

Où :

• E _i est une borne d’erreur avec O _i (voir correction d’erreur pour la stabilité mnésique et correction d’erreur pour la difficulté de l’élément)
• E’ _i est une borne d’erreur avec O’ _i
• I _i sont les données d’entrée à T _i
• N _i est l’état du réseau à T _i
• O _i est une décision de sortie de N _i étant donné I _i, c’est-à-dire la décision après la i-ième répétition prise à T _i
• O* _i est une décision de sortie optimale, qui devrait être obtenue à T _i au lieu de O _i ; elle peut être calculée à partir de la note et de O _i (la note indique comment O _i aurait dû changer pour obtenir une meilleure approximation)
• O’ _i est une décision de sortie de N _i+1 étant donné I _i, c’est-à-dire la décision après la i-ième répétition qui serait prise à T _i+1
• T _i est l’instant de la i-ième répétition d’un élément donné

L’approche ci-dessus ne nécessite de stocker que I _i-1 pour chaque élément entre les répétitions ayant lieu à T _i-1 et T _i, avec une économie substantielle sur la quantité de données stockées pendant le processus d’apprentissage (E’ _i est aussi utile pour l’entraînement que E _i). Ainsi, la solution proposée est comparable, en termes de complexité spatiale, à l’ algorithme SM-8 ! Un seul état (le plus récent) du réseau de neurones doit être mémorisé pendant tout le processus.

Voici les hypothèses d’implémentation actuelles pour le projet évoqué :

• réseau de neurones : unidirectionnel, en couches, avec rétropropagation résiliente ; une couche d’entrée à quatre neurones, une couche de sortie à deux neurones, et deux couches cachées (15 neurones chacune)
• interprétation de la difficulté de l’élément : identique à celle de l’ algorithme SM-8, c’est-à-dire définie par le facteur A
• chaque élément stocke : la date de la dernière répétition, la stabilité (à la dernière répétition), la récupérabilité (à la dernière répétition), la difficulté de l’élément, la dernière note
• indice d’oubli  par défaut : 10 %
• entrée de la DLL du réseau (à chaque répétition) : le numéro de l’élément et la note actuelle
• sortie de la DLL du réseau (à chaque répétition) : la date de la prochaine répétition
• langage d’implémentation de la DLL du réseau de neurones : C++
• hôte de la DLL du réseau de neurones, SuperMemo 98 pour Windows (identique à l’hôte 32 bits SM8OPT.DLL)

SuperMemo à réseau de neurones : implémentation

Le réseau a pratiquement reçu l’algorithme de répétition espacée sur un plateau d’argent. Son seul rôle serait d’affiner la performance dans le temps. C’est exactement ce que font tous les algorithmes de SuperMemo depuis l’ algorithme SM-5. En ce sens, la conception ne demandait pas au réseau une découverte. Elle lui demandait des améliorations à partir de la découverte. Le modèle était intégré à la conception.

Avertissement sur les archives : pourquoi utiliser des archives littérales ?

Hypothèse de base

L’état de la mémoire sera décrit à l’aide de seulement deux variables : la récupérabilité (R) et la stabilité (S) ( Wozniak, Gorzelańczyk, Murakowski, 1995). L’équation suivante relie R et S :

(1) R=e ^-k/S*t

où :

• k est une constante
• t est le temps

Par souci de simplicité, nous fixerons k=1 pour définir univoquement la stabilité.

Entrée et sortie

Les fonctions suivantes doivent être déterminées par le réseau :

(2) S _i+1=f _s(R, S _i, D, G)

(3) D _i+1=f _d(R, S, D _i, G)

Le réseau de neurones est censé générer, en sortie, la stabilité (S) et la difficulté de l’élément (D), à partir de R, S, D et G en entrée :

(4) (Ri, Si, Di, Gi) => (D _i+1,S _i+1)

où :

• R _i est la récupérabilité avant la i-ième répétition
• S _i est la stabilité avant la i-ième répétition
• S _i+1 est la stabilité après la i-ième répétition
• D _i est la difficulté de l’élément avant la i-ième répétition
• D _i+1 est la difficulté de l’élément après la i-ième répétition
• G _i est la note attribuée à la i-ième répétition

Correction d’erreur pour la difficulté D

La difficulté cible sera définie comme dans l’ algorithme SM-8, c’est-à-dire comme le rapport entre le deuxième et le premier intervalle. Le plug-in de réseau de neurones (NN.DLL) enregistrera cette valeur pour chaque élément individuellement et l’utilisera pour entraîner le réseau :

(5) D _o=I ₂/I ₁

où :

• D _o est la difficulté de référence utilisée dans la correction d’erreur (plus D _o est élevé, moins la difficulté est grande)
• I ₁ est le premier intervalle optimal calculé pour l’élément en question (identique pour tous les éléments)
• I ₂ est le deuxième intervalle optimal calculé pour l’élément

Important ! Les intervalles optimaux I ₁ et I ₂ ne sont pas ceux proposés par le réseau avant sa vérification, mais ceux utilisés dans la correction d’erreur après que l’intervalle proposé a déjà été exécuté et vérifié (voir correction d’erreur pour la stabilité S) !

La valeur initiale de la difficulté sera fixée à 3,5, c’est-à-dire D ₁=3,5. Ceci est uniquement par souci de similitude avec l’algorithme SM-8. Comme la difficulté initiale n’est pas connue, elle ne peut pas être utilisée pour déterminer le premier intervalle. Après l’attribution de la première note, la correction d’erreur reste impossible car le deuxième intervalle optimal n’est pas encore connu. Une fois celui-ci connu, D _o peut être utilisé pour la correction d’erreur de D en sortie.

Pour éviter les problèmes de convergence dans le réseau, la formule suivante sera utilisée pour déterminer la sortie correcte sur D :

(6) D _opt=0,9*D _i+0,1*D _o

où :

• D _opt est la difficulté utilisée dans la correction d’erreur après la i-ième répétition
• D _i est la difficulté avant la i-ième répétition
• D _o est la difficulté de référence de l’équation (5)

Le facteur de convergence de 0,9 dans l’équation (6) est arbitraire et pourra changer en fonction de la performance du réseau.

Correction d’erreur pour la stabilité S

La formule suivante, dérivée de l’équation (1) pour un indice d’oubli égal à 10 % et k=1, permet de convertir facilement la stabilité et l’intervalle optimal : I=-ln(0,9)*S

Dans le cas optimal, le réseau devrait générer l’indice d’oubli demandé pour chaque répétition. L’indice d’oubli variable peut facilement être utilisé une fois la stabilité S connue (voir équation (1)). Par souci de simplicité, nous utiliserons donc un indice d’oubli égal à 10 % dans l’analyse qui suit.

Pour accélérer la convergence, le réseau mesurera l’indice d’oubli pour 25 catégories de répétitions. Ces catégories sont définies par (1) cinq catégories de difficulté : 1-1,5, 1,5-2,5, 2,5-3,5, 3,5-5, et plus de 5, et (2) cinq catégories d’intervalle : 1-5, 5-20, 20-100, 100-500 et plus de 500 jours. Nous noterons les mesures de l’indice d’oubli pour ces catégories FI(D _m,I _n). De plus, l’indice d’oubli global FI _tot sera mesuré et utilisé dans la correction d’erreur de stabilité.

L’objectif ultime est d’atteindre un indice d’oubli de 10 % dans toutes les catégories. La formule suivante sera utilisée pour la correction d’erreur de stabilité :

(7) FI _opt(m,n)=(10*FI _tot+Cas(m,n)*FI(m,n))/(10+Cas(m,n))

où :

• FI _opt(m,n) est l’indice d’oubli utilisé dans la correction d’erreur après une répétition appartenant à la catégorie (m,n)
• FI _tot est l’indice d’oubli global mesuré lors des répétitions
• Cas(m,n) est le nombre de cas de répétition utilisés pour mesurer l’indice d’oubli dans la catégorie (m,n)

La formule de l’équation (7) est censée déplacer le poids de la correction d’erreur, de l’indice d’oubli global vers l’indice d’oubli enregistré dans les catégories concernées, à mesure que le nombre de cas dans chaque catégorie augmente. Il est évident que pour Cas(m,n)=0, on a FI _opt(m,n)=FI _tot. Pour Cas(m,n)=10, les poids de l’indice global et de l’indice par catégorie s’équilibrent, et pour un grand nombre de cas, FI _opt(m,n) se rapproche de FI(m,n).

Le tableau suivant illustre la relation supposée entre FI _opt(m,n), les notes et la correction d’intervalle appliquée :

Dans SuperMemo, les notes inférieures à 3 sont interprétées comme un oubli, tandis que les notes égales ou supérieures à 3 sont comprises comme un rappel suffisant. C’est pourquoi aucune correction n’est appliquée pour les notes de réussite en cas d’indice d’oubli satisfaisant, et aucune correction n’est appliquée pour les notes d’échec si l’indice d’oubli est supérieur à celui demandé. Une correction exemplaire pour un taux d’oubli excessif et une note de 2 pour un intervalle appliqué de 10 jours serait de 80 %. Par conséquent, le réseau sera invité à considérer un intervalle de 8 comme correct. La stabilité correcte serait alors dérivée de S=-8/ln(0,9) et utilisée dans la correction d’erreur. Les valeurs des corrections d’intervalle sont arbitraires mais ne doivent pas compromettre la convergence du réseau. En cas de problèmes de stabilité improbables, les corrections pourraient être réduites (notez que le bruit environnemental du processus d’apprentissage dépassera considérablement l’impact d’un choix inefficace des facteurs de correction !). Des corrections similaires ont été appliquées dans les algorithmes successifs de SuperMemo avec des résultats encourageants.

Conditions limites

Les contraintes supplémentaires suivantes seront imposées au réseau de neurones pour accélérer la convergence :

• l’augmentation de l’intervalle entre deux répétitions successives doit être d’au moins 1,1 (par conséquent, la difficulté ne peut pas être inférieure à 1,1)
• l’augmentation de l’intervalle ne peut pas dépasser 8 après la première répétition, et 4 pour les répétitions suivantes
• le premier intervalle doit être compris entre 1 et 40 jours
• la mesure de difficulté ne peut pas dépasser 8

Ces conditions ne portent pas préjudice au réseau, car elles ont été démontrées, au-delà de tout doute raisonnable, comme vraies dans la pratique de l’utilisation de SuperMemo et de ses implémentations au cours des dix dernières années.

Pré-entraînement

Dans la phase de préentraînement, on utilisera la forme suivante des équations (2) et (3) :

(8) D _i+1:=D _i+(0.1-(5-G)*(0.08+(5-G)*0.02))

(9) S _i+1:=S _i*D _i*(0.5+1/i)

Avec D ₁=3.5 et S ₁=-3/ln(0.9).

L’équation (8) a été dérivée de l’algorithme SM-2 (voir l’équation du facteur E). L’équation (9) a été approximativement dérivée de la matrice OF de l’algorithme SM-8. D ₁=3.5 correspond au même paramètre dans l’algorithme SM-8. S ₁=-3/ln(0.9) correspond au premier intervalle de 3 jours et à un indice d’oubli de 10 %. La valeur de 3 jours est proche de la moyenne observée sur un large éventail d’étudiants et de niveaux de difficulté du matériel d’apprentissage. Le préentraînement utilisera également les conditions limites mentionnées au paragraphe précédent.

Le réseau de neurones a connu de nombreux problèmes : mise en œuvre, bugs, convergence, interférences, etc. La seule façon d’étudier efficacement le réseau était de le brancher dans une vraie version de SuperMemo et de voir comment il se comportait sur des données réelles. J’ai eu l’idée d’algorithmes enfichables sous forme de DLL. Nous pouvions ainsi étudier différentes variantes algorithmiques dans le même environnement. Nous avons essayé l’algorithme SM-2, l’algorithme SM-8 et un réseau de neurones devait maintenant faire de même. Malheureusement, cette implémentation en DLL s’est révélée un pas de trop. Une fois que les jeunes passionnés ont obtenu leur diplôme, ils se sont vite dispersés, ont trouvé un emploi ailleurs, se sont mariés, et je n’ai jamais eu l’occasion d’essayer ce module dans mon propre apprentissage, dans mon environnement préféré de l’époque, qui était SuperMemo 9 (alias SuperMemo 98).

Le SuperMemo à réseau de neurones était un projet étudiant dont le seul objectif était de vérifier la viabilité des réseaux de neurones en répétition espacée. Il va sans dire que les réseaux de neurones sont un outil viable. De plus, tout outil d’optimisation valide, suffisamment affiné, est appelé à produire des résultats similaires à ceux actuellement obtenus par SuperMemo. En d’autres termes, tant que le programme d’apprentissage parvient à converger rapidement vers le modèle optimal et à produire le niveau de rétention souhaité, l’outil d’optimisation utilisé pour y arriver n’est que secondaire.

Étant donné le nombre de problèmes rencontrés aux étapes antérieures, je doute qu’un module fonctionnel aurait changé ma vision des réseaux de neurones. Je suis un programmeur et un bricoleur, j’aime voir ce que je crée. Le réseau de neurones me paraissait trop opaque, trop « boîte noire ». Quant à l’équipe, tous ont aujourd’hui réussi dans leur carrière. Ces jeunes ont ensuite contribué à d’autres projets SuperMemo. La jeunesse est créative, la jeunesse est imprévisible, et je suis heureux que nous ayons entrepris ce projet.

David Calinski et FullRecall

David Calinski (né en 1981) était l’un des jeunes passionnés de SuperMemo des années 1990. Il montrait un vif intérêt pour l’apprentissage accéléré, la psychologie, la psychiatrie, et bien d’autres domaines.

J’ai rapidement reconnu ses talents et j’espérais le recruter pour certains projets SuperMemo, notamment SuperMemo pour Linux, mais bien des génies préfèrent marcher seuls. À un moment donné, il est passé de SuperMemo à sa propre application (FullRecall, voir plus loin), et depuis, il n’a plus abandonné son projet.

Nos discussions sur les réseaux de neurones ont commencé en 2001. David était un fan de SuperMemo, mais il admettait aussi ne jamais avoir vraiment étudié l’algorithme. Cela a donné lieu à une critique :

Je ne connais pas les détails exacts de l’algorithme (ou des algorithmes) de SM (je n’y ai jamais été très intéressé), mais l’idée principale est ce qui importe ici. L’algorithme de SM reçoit des données (par exemple le nombre de répétitions, la difficulté de l’élément, la note actuelle, etc.) et renvoie le prochain intervalle optimal calculé. Cet algorithme, même s’il est « intelligent » et se corrige d’une certaine manière, restera tout de même stupide – il ne se corrigera pas plus que ce pour quoi il a été conçu.

Il a raison, l’algorithme SM-17 est intrinsèquement lié au modèle à deux composantes de la mémoire à long terme, mais c’est un mariage heureux. Ce lien ne pourrait être rompu que par des contre-preuves qui, jusqu’à présent, ne sont pas apparues en trois décennies.

La position de David est tout à fait justifiable. Tout est question de modélisation et de connaissances préalables. Pour David, l’algorithme SM-8 paraissait complexe. Les réseaux de neurones semblaient un moyen simple d’évacuer cette complexité. Pour moi, mon propre algorithme est aussi simple que la table de multiplication. Cette différence de modélisation entraîne souvent une divergence cognitive, et c’est une bonne chose. Sans ces différences, nous en saurions bien moins aujourd’hui sur les réseaux de neurones en répétition espacée !

J’ai écrit à David en 2004 : « Il est peu probable que de nouvelles améliorations de l’algorithme utilisé dans SuperMemo entraînent une nouvelle accélération de l’apprentissage. Il reste cependant une marge de progrès pour la gestion des cas inhabituels tels que les répétitions retardées de façon spectaculaire, la présentation massée, la gestion des éléments dont le contenu a changé, la gestion des liens sémantiques entre éléments, etc. Il est intéressant de noter que les plus grands progrès de l’algorithme viendront probablement d’une meilleure définition du modèle de la mémoire humaine à long terme. En particulier, la fonction décrivant les variations de la stabilité de la mémoire selon les différents niveaux de récupérabilité commence à être mieux comprise. Cela pourrait considérablement simplifier l’algorithme. Des modèles plus simples nécessitent moins de variables, ce qui facilite l’optimisation. Un algorithme fondé sur la stabilité et la récupérabilité des traces mnésiques pourrait aussi mieux gérer les éléments à faible récupérabilité. Cependant, comme les cas inhabituels d’éléments ne représentent qu’une minorité dans le processus d’apprentissage, et que tester un nouvel algorithme prendrait plusieurs années, il n’est pas certain qu’une telle mise en œuvre soit un jour entreprise ».

David a développé son propre réseau de neurones, MemAid. Plus tard, il l’a transformé en produit commercial. Le passage du gratuit au payant a été difficile, car les utilisateurs préfèrent naturellement une baisse des prix. Malgré tous les hauts et les bas, David a persévéré, et son goût du bricolage ainsi que sa passion pour la science et la programmation lui ont toujours donné un avantage. Comme Anki, il a essayé de garder son programme multiplateforme, ce qui imposait certaines limites et exigences de simplicité. Selon ses propres mots : « J’aime la rapidité et l’absence de frontières, l’absence de dépendance à une seule solution, un seul système, un seul ordinateur, etc. »

Aujourd’hui, FullRecall est gratuit. Voir le journal des modifications.

Figure : Distribution des intervalles dans FullRecall. Répétitions planifiées à l’aide d’un réseau de neurones

Le projet open source MemAid a fermé en 2006, mais FullRecall a continué. Il en va de même pour un autre projet inspiré de MemAid : Mnemosyne. Mnemosyne, cependant, a opté pour sa propre version de l’algorithme SM-2. À ce jour, Mnemosyne génère des données que les passionnés ou chercheurs en répétition espacée peuvent utiliser via The Mnemosyne Project.

Comme Calinski, Peter Bienstman est sceptique face aux algorithmes plus récents : « SuperMemo utilise maintenant SM-11. Mais nous sommes un peu sceptiques quant au fait que l’énorme complexité des nouveaux algorithmes SM apporte un avantage statistiquement significatif. C’est justement l’un des faits que nous espérons établir grâce à notre collecte de données. »

« Un avantage statistiquement significatif » dépend des critères retenus. Pour les utilisateurs, l’algorithme précis importe peut-être peu. Pour la recherche, l’algorithme SM-17 est une mine d’or (tout comme les données que des programmes comme Mnemosyne peuvent générer).

Pourquoi le réseau de neurones de FullRecall est-il défaillant ?

Les deux variables de la mémoire sont à la fois nécessaires et suffisantes pour représenter une mémoire atomique en répétition espacée. De plus, ces deux variables permettent de rendre compte de l’effet d’espacement dans la présentation massée. Elles peuvent aussi expliquer l’avantage d’un indice d’oubli élevé pour la rétention à long terme, comme évoqué ici. Ces deux variables de la mémoire à long terme, que nous avons appelées stabilité et récupérabilité, sont nécessaires pour représenter l’état de la mémoire. Tout réseau de neurones voulant trouver des schémas dans la relation entre espacement et rappel doit recevoir en entrée l’état complet de la mémoire, sans quoi il ne pourra jamais calculer l’espacement optimal. Cet état peut prendre la forme de l’historique complet des répétitions. Il peut aussi s’agir de la paire stabilité : récupérabilité (si elle peut être calculée). Il peut également s’agir de tout autre code portant sur l’historique des répétitions à partir duquel l’état de la mémoire peut être calculé.

La conception du réseau de FullRecall ne satisfait pas à ces critères :

• entrée : dernier_intervalle_calculé_par_le_RNA [0-2048 jours] (zéro si ce n’est pas une révision mais une première présentation)
• entrée : intervalle_réel_depuis_la_dernière_révision [0-2048 jours] (même remarque que ci-dessus)
• entrée : nombre_de_répétitions_de_l_élément_jusqu_à_présent [0-128]
• entrée : note_actuelle [0-5, 5 étant la meilleure]
• sortie fournie par le RNA : nouvel_intervalle [0-2048]

Ni l’intervalle ni le nombre de répétitions ne peuvent refléter la stabilité ou la récupérabilité de la mémoire. On peut obtenir un nombre élevé de répétitions en présentation massée, soumise à l’effet d’espacement, avec une augmentation négligeable de la stabilité de la mémoire. En même temps, de longs intervalles issus d’un calendrier sous-optimal peuvent produire de faibles valeurs à la fois pour la stabilité et pour la récupérabilité. En bref, pour un même intervalle, l’état de la mémoire dépendra de la distribution temporelle des répétitions.

On peut le montrer par un exemple : pour 10 répétitions sur 1000 jours, 9 répétitions en 9 jours suivies d’un intervalle de 991 jours produiront une stabilité proche de zéro (en supposant l’absence d’interférence). Pourtant, pour la même paire d’entrées, une répétition optimalement espacée peut apporter une récupérabilité proche de 100 % et une stabilité permettant des intervalles optimaux proches de 1000 jours.

Le seul scénario où le réseau pourrait bien fonctionner est celui où l’utilisateur suit précisément le calendrier optimal de répétition espacée. Or, cela ne peut provenir que d’un réseau préentraîné, par exemple avec l’algorithme SM-2. Dans ce scénario, le réseau sera instable et ne convergera pas vers l’optimum, car tout écart par rapport au calendrier optimal, y compris ceux causés par l’erreur du réseau lui-même, éloignera l’état du réseau de l’état d’origine dans lequel il était encore capable de calculer le statut de la mémoire à partir de ses entrées.

La stabilité et la récupérabilité suffisent dans le cas idéalisé d’une association monosynaptique unitaire. Dans la vraie vie, le réseau sémantique impliqué dans l’association fait probablement intervenir plusieurs de ces mémoires unitaires idéales. C’est pourquoi SuperMemo utilise le concept de difficulté absolue de l’élément. Dans l’algorithme SM-17, la difficulté absolue de l’élément est déterminée par l’augmentation maximale de la stabilité de la mémoire pour la première révision optimalement planifiée à l’indice d’oubli par défaut de 10 %. Le réseau de FullRecall ne reçoit non plus aucune mesure fiable de la difficulté de l’élément. Cela aggravera l’inefficacité du réseau.

On dit que le réseau de FullRecall fonctionne plutôt bien, d’après les retours des utilisateurs. À la lumière de l’analyse présentée ici, le réseau pourrait employer des conditions limites bien choisies, mais cela équivaudrait à revenir à l’algorithme SM-2 utilisé dans les anciennes versions de SuperMemo. Il va sans dire que cet ancien algorithme de SuperMemo est plus biaisé et moins plastique que les versions algébriques plus récentes fondées sur des matrices, utilisées dans SuperMemo.

Si le réseau de FullRecall est préentraîné, par exemple à l’aide de l’algorithme SM-2, et que l’étudiant respecte rigoureusement ses répétitions, le réseau pourrait fonctionner correctement, car l’intervalle est bien corrélé à la stabilité de la mémoire, surtout si l’information est enrichie par le nombre de répétitions. Cependant, sans conditions limites appropriées, en lecture incrémentale, le réseau échouerait certainement, car il pourrait recevoir des informations erronées sur le statut de la mémoire. Selon le scénario, la même paire répétitions : intervalle peut se produire pour une stabilité de 0 ou pour une stabilité maximale correspondant à des souvenirs à vie. De même, la récupérabilité peut aussi varier dans la plage 0-1 pour la même paire d’entrées du réseau. Par exemple, une révision fréquente d’un sous-ensemble avant un examen, suivie d’une longue pause dans l’apprentissage (causée par exemple par une surcharge), peut correspondre à une stabilité et une récupérabilité très faibles, malgré une entrée identique à celle d’une série de révisions espacées correctement exécutées sur la même période (avec une stabilité et une récupérabilité élevées, supérieures à 0,9). En lecture incrémentale, la surcharge, le report automatique, l’avancement d’élément, la révision de sous-ensembles et l’effet d’espacement seraient invisibles pour le réseau.

En supposant une bonne conception, les défauts de FullRecall ne se manifesteraient alors que lors d’un apprentissage interrompu, qui pourrait déclencher les conditions limites. Cela ne devrait pas diminuer la valeur du logiciel lui-même. Il s’agit simplement de souligner que la conception d’un réseau de neurones n’est pas facile et peut s’avérer inférieure.

En bref, ses entrées ne reflètent pas toutes les informations nécessaires au calcul des intervalles optimaux. En particulier, le nombre de répétitions est un très mauvais indicateur de la stabilité ou de la récupérabilité de la mémoire. Une meilleure approche consisterait à coder l’historique complet des répétitions ou à calculer le statut de la mémoire à l’aide des variables de stabilité et de récupérabilité. La stabilité et la récupérabilité doivent toutes deux pouvoir être calculées à partir de l’entrée du réseau.

L’avenir des réseaux de neurones dans SuperMemo

Lors de nos discussions avec Calinski (en 2001), j’ai résumé mes réserves et j’ai promis de continuer sur la même voie « conservatrice ». 17 ans plus tard, j’en suis content. Les progrès dans l’utilisation des réseaux de neurones en répétition espacée ont été limités. Il est possible que SuperMemo lui-même soit un frein au progrès dans ce domaine. Pendant ce temps, cependant, l’algorithme SM-17 a révélé un potentiel supplémentaire pour améliorer la répétition espacée et la compréhension de la mémoire humaine. Le temps le permettant, les progrès continueront.

SuperMemo continuera d’utiliser ses algorithmes algébriques pour les raisons suivantes :

• Modèle connu : les réseaux de neurones sont supérieurs dans les cas où l’on ne connaît pas le modèle sous-jacent du phénomène à modéliser. Le modèle de l’oubli est bien connu et permet d’affiner facilement les méthodes d’optimisation algébrique utilisées pour calculer les intervalles entre répétitions. Ce modèle bien connu rend aussi SuperMemo résistant aux jeux de données déséquilibrés, qui pourraient pénaliser les réseaux de neurones, notamment aux premiers stades de l’apprentissage. Enfin, la validité du modèle à deux composantes de la mémoire a été prouvée de multiples façons, et abandonner ce modèle lors de la conception du réseau, au nom d’éviter tout parti pris, serait un gaspillage. Une telle approche ne pourrait avoir qu’une valeur de recherche
• Surapprentissage : en raison de la modification pondérée par cas des valeurs de tableau, les tableaux d’optimisation utilisés dans SuperMemo ne sont pas sujets au « surapprentissage ». Aucun préentraînement n’est nécessaire, car la forme approximative de la fonction des intervalles optimaux est connue à l’avance. Il n’y a pas de problème de représentation des données, car toute donnée d’entrée anormale sera « pondérée à la baisse » avec le temps
• Équivalence : mathématiquement parlant, pour des fonctions continues, les réseaux à n entrées sont équivalents à des tableaux à n dimensions dans la cartographie de fonctions à n arguments, à l’exception du « problème de résolution des arguments ». L’ampleur de ce problème, c’est-à-dire le nombre fini de plages de valeurs d’arguments, dépend fortement de la fonction. Un rapide coup d’œil aux tableaux d’optimisation affichés par SuperMemo montre que la « résolution des arguments » est bien meilleure que ce qui est réellement nécessaire pour ce type particulier de fonction, surtout à la lumière du « bruit » important présent dans les données. Les algorithmes de montée de gradient (hill-climbing) utilisés dans SuperMemo rappellent les algorithmes visant à repondérer les réseaux
• Recherche : l’utilisation de matrices dans SuperMemo permet de voir facilement « la mémoire en action ». Les réseaux de neurones ne sont pas aussi bien observables. Ils ne révèlent pas efficacement leurs résultats. On ne peut pas voir comment une seule courbe d’oubli affecte la fonction des intervalles optimaux. Cela signifie que la nature « boîte noire » des réseaux de neurones les rend moins intéressants comme outil de recherche sur la mémoire
• Convergence : la complexité de l’algorithme ne provient pas de la complexité du modèle de mémoire. La majeure partie de cette complexité vient de l’utilisation d’outils censés accélérer la convergence de la procédure d’optimisation sans compromettre sa stabilité. Cet ajustement fin n’est possible que grâce à notre bonne connaissance du modèle de mémoire sous-jacent, ainsi qu’aux données d’apprentissage réelles collectées au fil des années, qui nous aident à déterminer précisément la meilleure fonction d’approximation pour chaque composante du modèle
• Courbe d’oubli : la seule façon de déterminer l’intervalle optimal pour un indice d’oubli donné est de connaître la courbe d’oubli (approximative) pour une classe de difficulté et une stabilité de mémoire données. Si un réseau de neurones ne tente pas de cartographier la courbe d’oubli, il oscillera toujours autour de la valeur de l’intervalle optimal (les bonnes notes augmentant cette valeur, les mauvaises notes la diminuant). En raison du bruit dans les données, ce n’est là qu’un problème théorique ; cela illustre néanmoins la puissance d’une représentation symbolique de la relation stabilité-récupérabilité-difficulté-temps par rapport à un nombre pratiquement infini de jeux de données de courbes d’oubli possibles. Si le réseau de neurones n’utilise pas une cartographie pondérée de la courbe d’oubli, il ne convergera jamais. En d’autres termes, il continuera d’osciller autour du modèle optimal. Si le réseau de neurones pondère l’historique du statut et/ou utilise la courbe d’oubli, il adoptera la même approche que l’algorithme actuel de SuperMemo, celui-là même que le réseau était censé remplacer au départ

En d’autres termes, les réseaux de neurones pourraient être utilisés pour calculer les intervalles, mais ils ne semblent pas être le meilleur outil en termes de puissance de calcul, de valeur pour la recherche, de stabilité et, surtout, de vitesse de convergence. En concevant un réseau de neurones optimal, on rencontre des difficultés similaires à celles de la conception de la procédure d’optimisation algébrique. En fin de compte, quelles que soient les conditions limites fixées dans le SuperMemo « classique », elles finiront tôt ou tard par apparaître dans la conception du réseau (comme on peut le voir dans : SuperMemo à réseau de neurones).

Comme pour toute approximation de fonction, le choix de l’outil et de petits ajustements algorithmiques peuvent faire toute la différence sur la vitesse de convergence et la précision de la cartographie. Les réseaux de neurones pourraient être utiles pour cartographier les fonctions accessoires moins connues qui servent à accélérer la convergence de l’algorithme algébrique. Par exemple, à ce jour, le problème de l’estimation de la difficulté de l’élément n’a pas été entièrement résolu. Nous disons simplement aux utilisateurs de garder leurs connaissances simples, ce qui est une recommandation universelle de tout enseignant conscient des limites mnémoniques de la mémoire humaine.

1999 : le choix du nom « répétition espacée »

En quête d’un bon nom unique

Le terme « spaced repetition » (répétition espacée) est très ancien et a été utilisé pendant des décennies dans l’industrie de la publicité et dans la recherche comportementale. Cependant, son sens moderne, fondé sur les intervalles de révision optimaux, n’a été établi qu’à partir du moment où ce nom a été utilisé pour désigner la méthode SuperMemo (à partir de 1999).

Aux débuts de SuperMemo World, nous avons activement recherché un terme scientifique bien reconnu pour désigner « la méthode SuperMemo » dans les contextes scientifiques. La stratégie marketing de l’entreprise consistait à se détacher de l’image d’un « programme développé par un étudiant » pour devenir un « programme fondé sur une méthode scientifique ». Malheureusement, la littérature sur la mémoire et l’apprentissage était peu fournie, hormis des études à court terme sur l’effet d’espacement, avec une exception notable : les recherches de H. Bahrick sur la rétention du vocabulaire espagnol.

Les chercheurs en mémoire ont étudié divers « calendriers de répétition » depuis des décennies. Parfois avec des intervalles de quelques minutes. Parfois avec des « éléments intercalaires » pour séparer les révisions. Trois modèles de révision ont dominé : (1) massé, avec de nombreuses répétitions en peu de temps, (2) distribué, avec des répétitions dispersées dans le temps, et (3) expansif, avec un intervalle croissant. La répétition espacée repose sur un calendrier progressivement croissant. Pendant des décennies, la littérature sur la mémoire n’a pas réussi à s’accorder sur un terme précis pour désigner ce calendrier croissant. Pimsleur parlait d’ intervalles graduels, Bjork de répétition expansive, Baddeley de pratique distribuée, dans mon mémoire de master, j’utilisais calendrier progressif, Pavlik utilise le terme plus général de calendrier optimal dont on sait qu’il est progressif, etc.

Un article fondateur de Frank N. Dempster, « The Spacing Effect A Case Study in the Failure to Apply the Results of Psychological Research » (American Psychologist, 43, 627-634, 1988), a donné un premier élan à SuperMemo. Cet article déplorait le fait que les enseignants ignorent l’effet d’espacement dans la pratique de l’apprentissage. SuperMemo pouvait combler ce manque en offrant un outil universel et simple pour l’apprentissage espacé. Dempster employait librement des expressions telles que « présentation espacée », « révisions espacées », « pratique espacée », « tests espacés », et même « lectures espacées » ou « présentations bien espacées ».

Nous avons choisi le terme « repetition spacing » (espacement des répétitions) pour remplacer « la méthode SuperMemo ». Le premier article scientifique en langue anglaise décrivant la répétition espacée informatisée (1994) utilisait encore le terme « repetition spacing ».

Choisir le nom : répétition espacée

Le 3 février 1999, inspiré par un e-mail d’un utilisateur de SuperMemo ( Tony D’Angelo), j’ai passé en revue la littérature en utilisant le mot-clé « spaced repetition ». À la suite de cette revue, je me suis convaincu qu’il fallait passer du terme « repetition spacing » à « spaced repetition ». Le terme « spaced repetition » était tout aussi obscur et rarement employé, mais il était légèrement plus utilisé que « repetition spacing ».

Nous avons décidé que, dans les futures versions de SuperMemo, le terme « spaced repetition » serait utilisé à la place de « repetition spacing ». La première utilisation de ce terme sur supermemo.com date probablement du 4 février 2000, dans SuperMemo is useless

Avec le temps, le terme « spaced repetition » (répétition espacée) est devenu de plus en plus populaire. À ce titre, SuperMemo peut aussi revendiquer d’avoir contribué à ancrer ce terme scientifique générique dans l’esprit du public, en l’associant spécifiquement aux intervalles optimaux d’apprentissage.

L’avenir du nom : répétition espacée

Depuis 1999, en grande partie grâce à notre choix de nom, le terme « spaced repetition » a consolidé sa présence dans les textes traitant des applications de flashcards, y compris celles fondées sur le système de Leitner. On peut aussi espérer que ce terme devienne dominant dans la littérature scientifique. Tous les auteurs préfèrent s’en tenir à la terminologie qu’ils utilisent depuis des années, voire des décennies. Cependant, Wikipédia a largement contribué à accélérer cette évolution terminologique. Le terme dominant y est spaced repetition, mais les chercheurs en mémoire ont tendance à privilégier spaced retrieval ou distributed practice (concept plus large). Il existe aussi des « entrées isolées » comme spaced learning, attribuées par des robots spammeurs à Paul Kelly (alors directeur du Monkseaton High School).

Cette confusion contribue au décalage entre la recherche et les applications populaires de la répétition espacée, mais la fusion et l’unification ne sont qu’une question de temps. Wikipédia utilise le concept de fusions proposées. Les scientifiques peuvent s’opposer à la fusion de leurs versions « propres » avec la version populaire, truffée de liens commerciaux. Pourtant, une telle fusion est inévitable, et c’est une bonne chose. Il existe aujourd’hui des scientifiques qui étudient la répétition espacée sans connaître ce terme, et qui n’ont jamais entendu parler de SuperMemo. Il existe aussi des ingénieurs qui travaillent sur des algorithmes de répétition espacée tout en connaissant très peu la recherche réelle sur la mémoire dans ce domaine. Ces deux problèmes peuvent être atténués par l’unification de la terminologie. Google fera le reste.

L’unification de la terminologie sous la bannière de la « répétition espacée » servira la recherche future et les applications populaires

2005 : la fonction d’augmentation de stabilité

Pourquoi une idée simple n’a-t-elle pas pu se concrétiser ?

Une description mathématique parfaite de la mémoire à long terme est presque à portée de main. Cela peut sembler étonnant aujourd’hui, mais malgré sa simplicité, il a fallu trois longues décennies de démarrages et d’arrêts avant qu’un bon modèle puisse émerger. Dans l’aventure humaine, la science est souvent un effet secondaire de la curiosité humaine, tandis que d’autres projets urgents reçoivent la priorité. Le problème avec la science, c’est qu’elle est aveugle : elle ne révèle guère ses secrets avant qu’ils soient découverts. La morale de l’histoire est que tous les gouvernements et toutes les entreprises devraient consacrer des ressources sans compter à la bonne science. La science ressemble un peu à SuperMemo : aujourd’hui, la récompense semble mince, mais à long terme, les bénéfices peuvent être stupéfiants.

Aujourd’hui, nous pouvons décrire la mémoire de manière presque parfaite grâce aux outils employés dans l’algorithme SM-17. La seule limite aux progrès futurs dans la compréhension de la mémoire est l’imagination, la disponibilité du temps, et la capacité à poser les bonnes questions. Nous avons tous les outils et beaucoup de données. Nous disposons même d’une belle quantité de données combinées à des journaux de sommeil, qui peuvent désormais ajouter une nouvelle dimension au modèle : la disposition homéostatique à l’apprentissage, la fatigue homéostatique, et même le facteur circadien.

Une morale importante de l’histoire de SuperMemo est que, si vous avez une idée, il faut la mettre en œuvre (à moins d’en avoir une meilleure). Le problème avec les idées, c’est qu’elles peuvent sembler bien moins attrayantes qu’elles ne le sont réellement. J’ai tracé ma première courbe d’oubli en 1984, je l’ai oubliée en quelques mois, et je me suis souvenu de ce fait 34 ans plus tard, à une époque où toute ma vie tourne autour des courbes d’oubli. Imaginez la surprise ! Quand j’ai conçu le premier algorithme de répétition espacée, il m’a fallu plus de deux ans avant de décider de recruter mon premier utilisateur. Sans Tomasz Kuehn, SuperMemo pour Windows aurait peut-être vu le jour 2 à 4 ans plus tard. Sans Janusz Murakowski, la précieuse mine de données que constitue l’historique des répétitions dans SuperMemo aurait pu être retardée de 1 à 2 ans. Lorsque la lecture incrémentale a vu le jour en 2000, moi seul savais qu’il s’agissait d’une avancée monumentale. Il m’a fallu néanmoins un certain temps pour en mesurer toute l’ampleur. Aujourd’hui, je sais que la créativité neuronale est un outil de rupture, mais je continue à l’utiliser avec réserve, et moins souvent que son alternative plus simple : la révision de sous-ensembles.

1990 : le premier indice

L’algorithme SM-17 était en préparation depuis près d’un quart de siècle. En préparant les documents pour cet article, j’ai retrouvé dans mes archives une image d’une matrice nommée « new strength », avec des lignes intitulées « strength » et des colonnes intitulées « durability ». C’étaient les noms d’origine de la stabilité et de la récupérabilité, utilisés dans les années 1988-1990. Comme un vieux fossile, ce document me révèle que l’idée de l’algorithme SM-17 a dû naître vers 1990.

Figure : Une image d’une matrice nommée « new strength », avec des lignes intitulées « strength » et des colonnes intitulées « durability ». C’étaient les noms d’origine de la stabilité et de la récupérabilité, utilisés dans les années 1988-1990. Ce document suggère que l’idée de l’algorithme SM-17 a dû naître vers 1990.

Depuis les tout premiers débuts du modèle à deux composantes de la mémoire, j’ai voulu construire un algorithme autour de lui. Ma motivation a toujours été mitigée. SuperMemo fonctionnait suffisamment bien pour que cela reste un simple exercice théorique intéressant. Pourtant, aujourd’hui, je vois que l’algorithme fournit des données pour un modèle capable de répondre à de nombreuses questions sur la mémoire. Certaines de ces questions n’ont en réalité jamais été posées (par exemple sur les sous-composantes de la stabilité). Cela ressemble aussi à SuperMemo lui-même. Il a toujours eu du mal à s’imposer car sa valeur est difficile à apprécier en théorie. Ce sont les effets pratiques qui convainquent le plus facilement les bons étudiants.

1993 : la distraction

En 1993, ma propre réflexion était un frein au progrès. Poursuivre les explorations de l’algorithme était secondaire. Cela n’aurait pas beaucoup profité à l’utilisateur. La modélisation de la mémoire était pure recherche fondamentale. Voir : la futilité de l’ajustement fin de l’algorithme. À l’époque, c’était Murakowski qui poussait le plus fort pour progresser. Il n’arrêtait pas de se plaindre que «  SuperMemo laisse fuir des données dignes du prix Nobel ». Il me hurlait, dans des termes proches de l’insulte : «  implémente les historiques de répétition maintenant ! ». C’était simplement une question de priorités. Nous avions une nouvelle version Windows de SuperMemo, l’arrivée des données audio, l’arrivée de la technologie CD-ROM, l’arrivée d’une concurrence sérieuse, y compris chez nous, où Young Digital Poland nous avait battus d’environ un mois pour le titre du premier titre CD-ROM dans notre pays. Nous revendiquons toujours fièrement le premier CD-ROM Windows en Pologne. Il était en réalité fabriqué aux États-Unis, mais le contenu était entièrement conçu en Pologne, autour d’un SuperMemo 100 % polonais.

1996 : le capital-risque

En février 1996, tous les obstacles avaient été levés, et SuperMemo a enfin commencé à collecter l’intégralité de l’historique des répétitions (à l’époque, c’était encore une option, pour éviter d’encombrer les systèmes moins puissants de données inutilisées). Mes propres données remontent maintenant en grande partie à 1992-1993, car tous les éléments enregistrés en février 1996 avaient encore leur dernière répétition facilement identifiable à partir de l’intervalle. J’ai même un bon nombre d’historiques remontant à 1987. Dans mon obsession pour les données, j’ai noté manuellement la progression de certains éléments spécifiques, ce qui m’a permis plus tard de compléter les historiques de répétition par édition manuelle. Mes propres données constituent donc aujourd’hui l’historique de répétition le plus long qui existe en répétition espacée. 30 ans de données, avec une couverture massive sur 22 à 25 années d’apprentissage. C’est une mine d’or.

Le 29 septembre 1996, un dimanche soir, j’ai consacré deux heures à esquisser le nouvel algorithme fondé sur le modèle à deux composantes de la mémoire. Tout paraissait très simple et ne demandait que peu de travail. SuperMemo venait de commencer à collecter les historiques de répétition, je devais donc disposer d’une quantité de données suffisante. Notre attention s’est déplacée des cours multimédias, comme Cross Country, vers des projets plus simples, comme Advanced English. Le moment semblait bien choisi. Malheureusement, le lendemain, nous avons reçu un appel d’Antek Szepieniec, qui avait discuté avec des investisseurs américains, rêvant de faire de SuperMemo World la première entreprise polonaise cotée au NASDAQ. Il prophétisait avec excitation qu’il y avait de bonnes chances qu’un investissement de plusieurs millions de dollars, via du capital-risque, vienne soutenir nos efforts. Cela m’a instantanément projeté dans de nouveaux rôles et de nouvelles tâches. Côté négatif, cela a retardé l’algorithme SM-17 de deux décennies. Côté positif, le concept de SuperMemo hypermédia, alias la Machine à Connaissances, alias lecture incrémentale, a gagné énormément en élan, tant en théorie qu’en conception. La pratique a de nouveau triomphé sur la science.

2005 : l’approche théorique

En 2000, avec la lecture incrémentale, puis en 2006 avec la file d’attente par priorité, le besoin de retarder les répétitions, et celui de les avancer, ont considérablement augmenté. Cela imposait des écarts énormes par rapport à l’optimum. L’ancien algorithme SM-8 ne pouvait pas gérer cela efficacement. La fonction des intervalles optimaux devait être étendue dans la dimension du temps (c’est-à-dire la récupérabilité). Il nous fallait une fonction d’ augmentation de stabilité.

Une des dynamiques les plus intéressantes du progrès scientifique est que les explorations dendritiques de la réalité nécessitent souvent une masse cérébrale critique pour faire aboutir une nouvelle idée. En 2005, Biedalak et d’autres étaient largement occupés ailleurs, à promouvoir SuperMemo en tant qu’entreprise. J’étais moi-même sur la voie d’une avancée majeure en lecture incrémentale : la gestion de la surcharge. Avec l’émergence de Wikipédia, il est soudain apparu qu’importer des tonnes de connaissances demandait peu d’effort, mais que des connaissances de faible priorité pouvaient facilement submerger des connaissances de haute priorité par simple volume. La richesse nuisait ainsi à la qualité des connaissances. Ma solution à ce problème fut d’employer la file d’attente par priorité. Elle ne serait implémentée qu’en 2006. Pendant ce temps, Gorzelańczyk et Murakowski étaient occupés par leurs propres projets scientifiques.

Gorzelańczyk avait l’habitude d’assister à une conférence de cybernétique à Cracovie, portée par l’une de mes premières sources d’inspiration : le professeur Ryszard Tadeusiewicz. Pour sa présentation de 2005, Gorzelańczyk a suggéré que nous mettions à jour notre modèle de la mémoire. Avec le déluge de nouvelles données en biologie moléculaire, une décennie s’était écoulée depuis la dernière formulation, ce qui pouvait faire une énorme différence. J’ai pensé que mes idées pour trouver une formule de construction de la stabilité de la mémoire feraient un bon complément. Cette étincelle initiale a rapidement pris de l’ampleur au fil des échanges avec Murakowski. Sans ces trois cerveaux travaillant à l’unisson et attisant l’enthousiasme, l’étape suivante, pourtant évidente, n’aurait pas été franchie. En utilisant les outils employés pour la première fois dans le modèle d’apprentissage intermittent de 1990, j’ai décidé de trouver la fonction d’ augmentation de stabilité. Une fois que mon ordinateur a commencé à traiter les données, des bribes d’information intéressantes n’ont cessé d’affluer les unes après les autres. Le travail devait ne prendre que quelques soirées. Il a finalement duré la moitié de l’hiver.

2013 : le retour de la vision d’ensemble

Comme en 2005, en 2013, il a fallu qu’une masse cérébrale critique se constitue pour faire aboutir les nouvelles solutions. Je dois cependant en accorder l’essentiel du crédit à Biedalak. C’est lui qui a fait basculer la balance. Dans une bataille sans fin pour la reconnaissance du leadership et du rôle pionnier de SuperMemo, il a exigé que nous poursuivions le projet et m’a envoyé prendre de courtes vacances créatives pour l’achever. Cela ne devait être qu’un projet d’un hiver, et cela s’est transformé en deux ans, et cela continue de me prendre beaucoup de temps.

Le 9 novembre 2014, nous avons fait une marche de 26 km pour discuter du nouvel algorithme. Discuter en marchant est notre meilleure forme de brainstorming, qui porte toujours ses fruits. Le lendemain, nous nous sommes retrouvés dans une piscine avec Leszek Lewoc, adorateur du big data, qui a toujours une foule d’idées fantastiques (j’ai rencontré Lewoc pour la première fois en 1996, et sa femme était probablement déjà utilisatrice de SuperMemo dès 1992 [à vérifier !]). Les conclusions simples de cette séance de brainstorming furent d’utiliser le modèle à deux composantes de la mémoire pour simplifier l’approche de l’algorithme, simplifier la terminologie, et la rendre plus conviviale (plus de facteurs A, de facteurs U, de facteurs R, etc.).

Augmentation de la stabilité de la mémoire avec la répétition

Pour comprendre l’algorithme SM-17, il est utile de comprendre les calculs utilisés pour établir la formule d’ augmentation de la stabilité de la mémoire. En 2005, notre objectif était de trouver la fonction d’augmentation de stabilité pour tout niveau valide de R et de S : SInc= f(R,S). Les objectifs et les outils étaient assez similaires à ceux utilisés dans la quête pour construire le modèle d’apprentissage intermittent (1990).

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

Jusqu’en 2005, nous n’avions pas été capables de formuler une formule universelle reliant une répétition à une augmentation de la stabilité de la mémoire. Les algorithmes d’espacement des répétitions se fondaient sur une compréhension générale de la façon dont la stabilité augmente lorsque l’on utilise ce qu’on appelle les intervalles optimaux entre répétitions (définis comme des intervalles produisant un taux de rappel connu, généralement supérieur à 90 %). Le terme d’ intervalle optimal désigne l’applicabilité d’un intervalle à l’apprentissage. Ces algorithmes d’espacement des répétitions permettent aussi de déterminer une fonction précise d’augmentation de stabilité pour les intervalles optimaux, sous forme matricielle. Cependant, on savait peu de choses sur l’augmentation de la stabilité pour de faibles niveaux de récupérabilité (c’est-à-dire lorsque les intervalles ne sont pas optimaux). Grâce aux données collectées à l’aide de SuperMemo, nous pouvons maintenant tenter de combler cette lacune. Bien que SuperMemo ait été conçu pour appliquer des intervalles optimaux dans l’apprentissage, dans la réalité, les utilisateurs sont souvent contraints de retarder leurs répétitions pour diverses raisons (vacances, maladie, etc.). Cela fournit une part substantielle de répétitions à faible récupérabilité dans presque tous les corpus de matériel d’apprentissage. De plus, en 2002, SuperMemo a introduit le concept de répétition à mi-intervalle, qui permet de raccourcir les intervalles entre répétitions. Bien que la proportion de répétitions à mi-intervalle dans un corpus de données donné soit très faible, pour des échantillons de données suffisamment grands, le nombre de cas de répétition à très faible et à très forte récupérabilité devrait permettre de généraliser les résultats sur l’augmentation de la stabilité de la mémoire, de la récupérabilité de 0,9 à toute la plage de récupérabilité.

Pour construire de manière optimale la stabilité de la mémoire par l’apprentissage, nous devons connaître la fonction des intervalles optimaux, ou, à défaut, la fonction d’augmentation de stabilité ( SInc). Ces fonctions prennent trois arguments : la stabilité de la mémoire (S), la récupérabilité de la mémoire (R) et la difficulté de la connaissance (D). Traditionnellement, SuperMemo s’est toujours concentré sur les dimensions S et D, car le maintien d’une récupérabilité élevée est le principal critère de la procédure d’optimisation utilisée pour calculer les intervalles entre répétitions. Cette focalisation sur S et D était dictée par les applications pratiques de la fonction d’augmentation de stabilité. Dans cet article, nous nous concentrons sur S et R, cherchant à éliminer la dimension D en analysant la « connaissance pure », c’est-à-dire des traces mnésiques non composites caractérisant des connaissances faciles à apprendre. Éliminer la dimension D facilite nos divagations théoriques, et les conclusions pourront ensuite être étendues aux traces mnésiques composites et aux connaissances jugées difficiles à apprendre. En d’autres termes, en passant de la pratique à la théorie, nous déplaçons notre intérêt de la paire (S,D) vers la paire (S,R). Dans cette logique, tous les jeux de données étudiés ont été filtrés selon la difficulté des éléments. En même temps, nous avons recherché les ensembles les plus vastes possibles, dans lesquels la représentation d’éléments à faible récupérabilité serait suffisamment importante en raison de retards dans la répétition (en violation de l’espacement optimal des répétitions). Nous avons mis au point une procédure en deux étapes utilisée pour proposer une formule symbolique de l’augmentation de stabilité pour différents niveaux de récupérabilité dans des jeux de données caractérisés par une difficulté faible et uniforme (des jeux de données dits « à connaissance bien formulée », faciles à retenir en mémoire). Un matériel d’apprentissage bien formulé et uniforme facilite l’isolement d’un processus pur de consolidation de la mémoire à long terme par la répétition. Comme évoqué ailleurs dans cet article, une connaissance mal formulée entraîne une superposition de processus de consolidation indépendants et se prête mal à l’analyse présentée ici.

Calcul en deux étapes

Dans SuperMemo 17, il est possible de parcourir l’intégralité de l’historique des répétitions pour collecter les données d’ augmentation de stabilité. Cela permet de tracer une représentation graphique de la matrice SInc[]. Cette matrice peut ensuite être utilisée pour tenter de trouver une approximation symbolique de la fonction d’ augmentation de stabilité. Le même raisonnement a été utilisé en 2005. La procédure était toutefois bien plus simple. Cela permet ensuite de mieux comprendre l’algorithme SM-17 :

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

La procédure en deux étapes pour déterminer la fonction d’augmentation de la stabilité de la mémoire SInc :

• Étape 1 : utiliser une représentation matricielle de SInc et une procédure itérative pour minimiser l’ écart Dev entre les notes d’un processus d’apprentissage réel (données) et les notes prédites par SInc. Dev est défini comme la somme de R-Pass sur une séquence de répétitions d’une connaissance donnée, où R est la récupérabilité et Pass vaut 1 pour les notes de réussite et 0 pour les notes d’échec
• Étape 2 : utiliser un algorithme de montée de gradient (hill-climbing) pour résoudre un problème des moindres carrés afin d’évaluer les candidats symboliques pour SInc offrant le meilleur ajustement à la matrice SInc obtenue à l’étape 1

Calcul de l’augmentation de stabilité

La matrice d’ augmentation de stabilité ( SInc[]) a été calculée à l’ étape 1. En 2005, nous pouvions partir de toute valeur hypothétique plausible de SInc. Aujourd’hui, connaissant la nature approximative de la fonction, nous pouvons accélérer le processus et le rendre non itératif (voir l’algorithme SM-17).

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

Définissons une procédure pour calculer la stabilité de la mémoire pour un schéma de répétition donné. Cette procédure peut être utilisée pour calculer la stabilité à partir des notes réellement obtenues durant l’apprentissage (variante pratique), et pour calculer la stabilité uniquement à partir de la synchronisation des répétitions (variante théorique). La seule différence entre les deux est que la variante pratique permet de corriger la stabilité en fonction de l’oubli stochastique reflété par les notes d’échec.

Dans les passages suivants, nous utiliserons la notation suivante :

• S(t) – stabilité de la mémoire au temps t
• S[r] – stabilité de la mémoire après la r ^ième répétition (par exemple, S[1] représentant la stabilité de la mémoire après l’apprentissage d’une nouvelle connaissance)
• R(S,t) – récupérabilité de la mémoire pour une stabilité S et un temps t (on sait que R=exp ^-k*t/S et que k=ln(10/9))
• SInc(R,S) – augmentation de la stabilité résultant d’une répétition pour une récupérabilité R et une stabilité S, telle que SInc(R(S,t),S(t))=S(t )/S(t’)=S[r]/S[r-1] (où : t’ et t représentent le moment de la répétition, respectivement avant et après la consolidation de la mémoire, avec t -t’ étant indistinguable de zéro)

Notre objectif est de trouver la fonction d’augmentation de stabilité pour tout niveau valide de R et de S : SInc= f(R,S).

Si l’on prend une valeur initiale plausible quelconque de SInc(R,S), et que l’on utilise S[1]=S ₁, où S ₁ est la stabilité dérivée de la fonction de déclin de la mémoire après la première révision (pour un intervalle optimal entre répétitions), alors, pour chaque historique de répétition, on peut calculer S selon l’itération suivante :

r:=1;
S[r]:=S1
repeat
 t:=Interval[r]; // where: Interval[r] is taken from a learning process (practical variant) or from the investigated review pattern (theoretical variant)
 Pass:=(Grade[r]>=3); // where: Grade[r] is the grade after the r-th interval (practical variant) or 4 (theoretical variant)
 R:=Ret(S[r],t);
 if Pass then
    S[r+1]:=S[r]*SInc[R,S[r]]
    r:=r+1;
else begin
   r:=1;
   S[r]:=S1;
   end;
until (r is the last repetition)

Dans l’algorithme SM-8, on peut utiliser le graphique du premier intervalle pour déterminer S ₁, qui devient progressivement plus court après chaque note d’échec.

Nous commençons le processus itératif avec une valeur initiale hypothétique de la matrice SInc[R,S], par exemple avec toutes les entrées fixées arbitrairement au facteur E comme dans l’algorithme SM-2.

Nous pouvons alors continuer à appliquer la procédure ci-dessus sur les données d’historique de répétition existantes pour calculer une nouvelle valeur de SInc[R,S] produisant un écart moindre par rapport aux notes obtenues dans le processus d’apprentissage réel (nous utilisons pour cela les différences R-Pass).

Des améliorations incrémentales sont possibles si l’on observe que :

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

• si Pass=vrai et S[r]<Intervalle[r], alors l’entrée SInc[R,S[r-1]] est sous-estimée (et peut être corrigée vers Intervalle[r]/S[r]* SInc[R,S[r-1]])
• si Pass=faux et S[r]>Intervalle[r], alors l’entrée SInc[R,S[r-1]] est surestimée

Nous pouvons itérer sur SInc[] pour rapprocher progressivement sa valeur de l’alignement avec les notes obtenues dans le processus d’apprentissage. Cette approche permet d’arriver au même SInc[R,S] final, indépendamment de la valeur initiale de SInc[R,S] fixée à l’initialisation

Dans l’algorithme SM-17, au lieu de cette approche incrémentale « tout ou rien » décrite ci-dessus, nous utilisons de véritables courbes d’oubli pour fournir une meilleure estimation de la récupérabilité, qui peut ensuite servir à corriger la stabilité estimée. L’estimation finale de la stabilité combine la prédiction théorique de la récupérabilité, le rappel réel tiré des courbes d’oubli (pondéré selon la disponibilité des données), et la note réelle combinée à l’intervalle, comme dans le raisonnement ci-dessus. En combinant ces trois sources d’information, l’algorithme SM-17 peut fournir des estimations de stabilité/intervalle sans avoir besoin d’itérer sans cesse sur la matrice SInc[].

Formule symbolique de l’augmentation de stabilité

Après de nombreuses itérations, on obtient une valeur de SInc qui minimise l’erreur. La procédure est convergente. Une fois la matrice d’ augmentation de stabilité disponible, nous pouvons rechercher une formule symbolique exprimant cette augmentation.

Dépendance de l’augmentation de stabilité à S

Sans surprise, SInc diminue lorsque S augmente :

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

À l’étape 2, nous utiliserons la matrice SInc[R,S] obtenue ici pour établir une formule symbolique de SInc.

Étape 2 – Trouver SInc sous forme de formule symbolique

Nous pouvons maintenant utiliser tout algorithme de descente de gradient pour évaluer des candidats symboliques pour SInc offrant le meilleur ajustement à la matrice SInc obtenue ci-dessus.

En examinant la matrice SInc, nous constatons immédiatement que SInc en fonction de S pour un R constant se décrit remarquablement bien par une fonction puissance négative, comme dans l’exemple de jeu de données ci-dessous :

Ce qui est encore plus clair dans la version log-log du même graphique :

La conclusion sur la dépendance en puissance entre SInc et S ci-dessus confirme les constatations précédentes. En particulier, la baisse des facteurs R le long des catégories de répétition dans SuperMemo a toujours été le mieux approximée par une fonction puissance

Dépendance de l’augmentation de stabilité à R

Comme le prédit l’ effet d’espacement, SInc est plus élevé pour des niveaux plus faibles de R . Notez cependant que la procédure utilisée en 2005 a pu introduire un artefact : la survie d’une trace mnésique dans le temps contribuerait de manière linéaire à la nouvelle estimation de stabilité. Cela pose problème en raison de la nature stochastique de l’ oubli. Une survie plus longue des souvenirs peut alors être une question de chance. Dans l’algorithme SM-17, davantage de preuves sont utilisées pour estimer la stabilité, et l’ intervalle de survie est pondéré avec tous les autres éléments de preuve.

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

Lorsque nous recherchons la fonction reflétant la relation entre SInc et R pour un S constant, nous observons davantage de bruit dans les données, en raison du fait que SuperMemo fournit beaucoup moins d’occurrences à faible R (son algorithme vise généralement à atteindre R>0,9). Néanmoins, en examinant plusieurs jeux de données, nous avons conclu, ce qui est quelque peu surprenant, que SInc augmente exponentiellement lorsque R diminue (voir plus loin pour voir comment cette augmentation se traduit par une relation presque linéaire entre SInc et le temps). L’ampleur de cette augmentation est plus élevée que prévu, et devrait apporter une preuve supplémentaire de la puissance de l’ effet d’espacement. Cette conclusion devrait avoir un impact majeur sur les stratégies d’apprentissage.

Voici un exemple de jeu de données de SInc en fonction de R pour un S constant. On voit que SInc=f(R) peut être assez bien approximée par une fonction exponentielle négative :

Et la version semi-log du même graphique, avec une droite de tendance d’approximation linéaire dont l’ordonnée à l’origine est fixée à 1 :

Il est intéressant de noter que l’augmentation de stabilité pour une récupérabilité de 100 % peut être inférieure à 1. Certaines recherches moléculaires indiquent une labilité accrue des souvenirs au moment de la révision. C’est une preuve supplémentaire que le bourrage répétitif peut vous nuire, et pas seulement en vous coûtant du temps supplémentaire.

Dépendance de l’augmentation de stabilité à la récupérabilité (2018)

Malgré toutes les différences algorithmiques et les artefacts, la dépendance de l’ augmentation de stabilité à la récupérabilité pour une connaissance bien formulée est presque identique à celle dérivée de données produites 13 ans plus tard par l’algorithme SM-17.

Rappelons que dans SuperMemo, nous utilisons des courbes d’oubli pour fournir une meilleure estimation de la récupérabilité. Celle-ci sert ensuite à corriger la stabilité estimée. En combinant plusieurs sources d’information, l’algorithme SM-17 peut fournir des estimations de stabilité plus précises. Il subsiste toujours le vieil artefact de la survie d’une trace mnésique, qui contribuerait de façon linéaire à la nouvelle stabilité. Cet artefact peut être neutralisé par pondération paramétrique. Cependant, chaque fois que SuperMemo tente de le faire, ses indicateurs de performance chutent.

Malgré toutes les améliorations, et des jeux de données bien plus vastes (notamment pour un faible R), la dépendance de l’ augmentation de stabilité à la récupérabilité pour les éléments faciles semble gravée dans le marbre.

Cette image parfaite s’effondre lorsque l’on introduit dans le mélange des connaissances difficiles. Cela s’explique en partie par la réduction de l’artefact de survie longue mentionné plus haut. C’est pourquoi les nouvelles versions de SuperMemo ne s’appuient plus sur cette formule mnésique apparemment bien confirmée :

Figure : La force de la mémoire à long terme dépend du moment de la révision. Pour une connaissance bien formulée, de longs délais de révision produisent une forte augmentation de la stabilité de la mémoire. La révision optimale doit équilibrer cette augmentation avec la probabilité d’oubli. Dans le graphique présenté, la relation entre l’ augmentation de stabilité et le logarithme de la récupérabilité (log(R)) est linéaire. Log(R) exprime le temps. Près de 27 000 répétitions ont été utilisées pour tracer ce graphique. La stabilité de la mémoire observée avant révision variait de 2 à 110 jours. Une augmentation maximale de la stabilité de près de 10 fois a été observée pour les niveaux de récupérabilité les plus faibles. La matrice d’ augmentation de stabilité a été générée avec l’algorithme SM-17 dans SuperMemo 17

Formule d’augmentation de la stabilité de la mémoire

Disposant de la matrice d’augmentation de stabilité, nous avons pu rechercher une expression symbolique de cette augmentation. L’équation trouvée en 2005 sera désignée plus loin par Eqn. SInc2005. Notez que les formules utilisées dans l’algorithme SM-17 diffèrent :

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

Pour une difficulté de connaissance constante, nous avons appliqué un ajustement de surface bidimensionnel pour obtenir la formule symbolique de SInc. Nous avons utilisé un algorithme de Levenberg-Marquardt modifié, avec plusieurs candidats symboliques susceptibles de décrire précisément SInc en fonction de S et de R. L’algorithme a été renforcé par une boucle persistante de redémarrage aléatoire afin de garantir que le maximum global soit trouvé. Nous avons obtenu les meilleurs résultats avec la formule suivante (Eqn. SInc2005) :

SInc= aS ^-b *e ^cR+ d

où :

• SInc – augmentation de la stabilité de la mémoire résultant d’une répétition réussie (rapport entre la stabilité S avant et après la répétition)
• R – récupérabilité de la mémoire au moment de la répétition, exprimée comme la probabilité de rappel en pourcentage
• S – stabilité de la mémoire avant la répétition, exprimée comme l’intervalle générant R=0,9
• a, b, c, d – paramètres qui peuvent varier légèrement selon les jeux de données
• e – base du logarithme naturel

Les paramètres a, b, c, d varieraient légèrement selon les jeux de données, ce qui pourrait refléter la variabilité de l’interaction utilisateur-connaissance (c’est-à-dire que différents ensembles de matériel d’apprentissage présentés à différents utilisateurs peuvent entraîner une distribution différente de la difficulté ainsi que des critères de notation différents, qui peuvent tous influencer la mesure finale). À titre d’illustration, une valeur moyenne de a, b, c, d, tirée de plusieurs jeux de données, s’est révélée être : a=76, b=0.023, c=-0.031, d:=-2, avec c variant peu d’un jeu de données à l’autre, tandis qu’ a et d présentaient une variance relativement plus élevée. Voir l’exemple : comment utiliser la formule pour calculer la stabilité de la mémoire ?

Conclusions tirées de la formule d’augmentation de stabilité

La formule ci-dessus pour l’ augmentation de stabilité diffère légèrement des découvertes ultérieures. Par exemple, elle semble sous-estimer le déclin de l’ augmentation de stabilité avec S (faible b). Elle permet néanmoins de tirer un grand nombre de conclusions intéressantes.

Augmentation linéaire de la valeur d’une révision au fil du temps

En raison de l’ effet d’espacement, le potentiel d’augmentation de la stabilité de la mémoire ne cesse de croître dans le temps, de façon presque linéaire :

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

La formule ci-dessus a produit des valeurs de SInc qui différaient en moyenne de 15 % de celles obtenues à partir des données sous forme de matrice SInc sur des jeux de données homogènes (c’est-à-dire des ensembles d’historiques de répétition sélectionnés pour : un seul étudiant, un seul type de connaissance, une faible difficulté, et une plage restreinte de facteurs A).

À mesure que l’intervalle entre répétitions augmente, malgré une double exponentiation dans le temps, SInc augmente selon une courbe sigmoïde presque linéaire (les deux opérations d’exponentiation négative s’annulant mutuellement) :

Figure : Le graphique des variations de SInc dans le temps. Ce graphique a été généré pour S=240 en utilisant l’équation SInc2005.

La dépendance presque linéaire de SInc au temps se reflète dans SuperMemo par le calcul du nouvel intervalle optimal en multipliant le facteur O par l’intervalle réellement utilisé entre répétitions, et non par l’ intervalle optimal précédemment calculé (dans SuperMemo, les facteurs O sont des entrées d’une matrice bidimensionnelle OF[S,D] qui représentent SInc pour R=0,9).

Augmentation attendue de la stabilité de la mémoire

L’optimisation de l’apprentissage peut utiliser divers critères. On peut optimiser pour un niveau spécifique de rappel ou pour la maximisation de l’ augmentation de la stabilité de la mémoire. Dans les deux cas, il est utile de comprendre le niveau attendu d’ augmentation de stabilité.

Définissons la valeur attendue de l’augmentation de la stabilité de la mémoire comme suit :

E( SInc)= SInc*R

où :

• R – récupérabilité
• SInc – augmentation de stabilité
• E( SInc) – augmentation probabiliste attendue de la stabilité (c’est-à-dire l’augmentation définie par SInc et réduite par la possibilité d’oubli)

La formule d’ augmentation de stabilité établie en 2005 a créé une grande surprise. Nous avions coutume d’affirmer que la meilleure vitesse d’apprentissage pouvait être obtenue avec un indice d’oubli de 30 à 40 %. L’équation SInc2005 semblait indiquer qu’une rétention très faible pouvait produire de très bons effets sur la mémoire. En raison de la rareté des données à faible R en 2005, ces conclusions doivent être prises avec précaution :

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

À partir de l’équation SInc2005, nous avons E( SInc)=( aS ^-b *e ^cR+ d)*R. En calculant la dérivée d ESInc/dR, et en l’égalant à zéro, on peut trouver la récupérabilité qui maximise l’augmentation attendue de stabilité pour différents niveaux de stabilité :

Figure : Augmentation attendue de la stabilité de la mémoire E(SInc) en fonction de la récupérabilité R pour la stabilité S dérivée de l’équation ( SInc2005). En utilisant la terminologie familière aux utilisateurs de SuperMemo, l’augmentation maximale attendue de la stabilité de la mémoire pour de courts intervalles se produit pour un indice d’oubli égal à 60 % ! Cela signifie aussi que l’indice d’oubli maximal autorisé dans SuperMemo (20 %) entraîne une augmentation attendue de la stabilité inférieure de près de 80 % au maximum possible (si l’on était prêt à sacrifier des niveaux élevés de rétention).

Figure : Augmentation attendue de la stabilité de la mémoire E(SInc) en fonction de la récupérabilité R et de la stabilité S, dérivée de l’équation SInc2005

Complexité de la mémoire en répétition espacée

La stabilité de la mémoire en répétition espacée dépend de la qualité de la révision, elle-même dépendante de la complexité de la mémoire. Dès 1984, j’exprimais cela dans mon propre apprentissage, dans ce qui est devenu par la suite le principe d’information minimale. Pour une révision efficace, la connaissance doit être simple. Elle peut former une structure complexe, mais les souvenirs individuels soumis à révision doivent être atomiques. En 2005, nous avons trouvé une formule qui régit la révision des souvenirs complexes.

Georgios Zonnios était autrefois un jeune utilisateur curieux de SuperMemo. Aujourd’hui, il est un innovateur en éducation et un contributeur créatif et prolifique à beaucoup de mes idées. Il a remarqué :

La stabilité dans la formule de stabilité des éléments complexes est comme la résistance dans un circuit électronique : de nombreuses résistances en parallèle permettent des fuites de courant

Par ailleurs, aux débuts de la lecture incrémentale, Zonnios est arrivé de manière indépendante au concept d’ écriture incrémentale, qui aujourd’hui peut sembler une étape évidente dans l’application des outils de la lecture incrémentale à la créativité. Cet article a lui aussi été écrit au moyen de l’ écriture incrémentale.

Voici comment les souvenirs des éléments complexes ont été décrits et analysés en 2005 :

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

La difficulté d’apprentissage est déterminée par la complexité de l’information mémorisée. Une connaissance complexe entraîne deux effets :

• une interférence accrue avec d’autres éléments d’information
• une difficulté à stimuler de façon uniforme les sous-composantes de la trace mnésique au moment de la révision

Les deux composantes de la difficulté peuvent être contrées grâce à une représentation appropriée des connaissances dans le processus d’apprentissage.

Voyons comment la complexité des connaissances affecte la construction de la stabilité de la mémoire.

Imaginons que nous voulions apprendre ce qui suit : Marie Sklodowska-Curie a été l’unique lauréate du prix Nobel de chimie 1911. Nous pouvons adopter deux approches : l’une où la connaissance reste complexe, l’autre avec des formulations simples. Dans une variante complexe, un double texte à trous pourrait être formulé afin d’apprendre le nom de Marie Curie et l’année où elle a reçu le prix Nobel.

Q : […] a été l’unique lauréate du prix Nobel de chimie […]
R : Marie Sklodowska-Curie, 1911

Dans une variante simple, ce double texte à trous serait scindé, le nom de jeune fille polonais serait rendu facultatif et utilisé pour créer un troisième texte à trous :

Q : […] a été l’unique lauréate du prix Nobel de chimie 1911
R : Marie (Sklodowska-)Curie

Q : Marie Sklodowska-Curie a été l’unique lauréate du prix Nobel de chimie […] (année)
R : 1911

Q : Marie […]-Curie a été l’unique lauréate du prix Nobel de chimie 1911
R : Sklodowska

De plus, dans la variante simple, une approche rigoureuse de l’apprentissage nécessiterait de formuler encore deux textes à trous supplémentaires, car Marie Curie a également été lauréate du prix Nobel de physique en 1903 (ainsi que d’autres distinctions) :

Q : Marie Sklodowska-Curie a été l’unique lauréate du prix Nobel 1911 de […]
R : Chimie

Q : Marie Sklodowska-Curie a été l’unique lauréate du […] 1911
R : prix Nobel (de chimie)

Considérons maintenant le double texte à trous composite d’origine. Pour les besoins du raisonnement, supposons que retenir l’année 1911 et le nom Curie soit d’égale difficulté. La récupérabilité de la trace mnésique composite (c’est-à-dire l’ensemble du double texte à trous) sera le produit des récupérabilités de ses sous-traces. Cela découle de la règle générale selon laquelle les traces mnésiques sont, dans la plupart des cas, largement indépendantes. Bien que l’oubli d’une trace puisse augmenter la probabilité d’oublier l’autre, dans la grande majorité des cas, comme le prouve l’expérience, des questions séparées et distinctes portant sur le même sujet peuvent suivre un processus d’apprentissage entièrement indépendant, où le rappel et l’oubli sont totalement imprévisibles. Voyons comment le fait de traiter les probabilités de rappel comme des événements indépendants affecte la stabilité d’une trace mnésique composite :

(9.1) R=R _a*R _b

où :

• R – récupérabilité d’une trace mnésique composite binaire
• R _a et R _b – récupérabilité de deux sous-composantes indépendantes de la trace mnésique (sous-traces) : a et b

(9.2) R=exp ^-kt/Sa*exp ^-kt/Sb=exp ^-kt/S

où :

• t – le temps
• k – ln(10/9)
• S – stabilité de la trace mnésique composite
• S _a et S _b – stabilités des sous-traces mnésiques a et b

(9.3) -kt/S=-kt/S _a-kt/S _b=-kt(1/S _a+1/S _b)

(9.4) S=S _a*S _b/(S _a+S _b)

Nous avons utilisé l’équation (9.4) pour poursuivre l’analyse des traces mnésiques composites. Nous nous attendions à ce que, si initialement la stabilité des sous-traces mnésiques S _a et S _b différait considérablement, les répétitions ultérieures, optimisées pour maximiser S (c’est-à-dire avec le critère R=0,9), puissent détériorer la stabilité des sous-composantes en raison d’une synchronisation sous-optimale de la révision. Nous avons montré que ce n’était pas le cas. Les sous-stabilités ont tendance à converger dans le processus d’apprentissage !

La stabilité des souvenirs complexes peut être dérivée des sous-stabilités des souvenirs atomiques

Convergence des sous-stabilités pour les traces mnésiques composites

Il a été facile de simuler le comportement des souvenirs complexes en répétition espacée. Leurs sous-stabilités tendent à converger. Cela entraîne une révision inefficace et une accumulation lente de stabilité. Aujourd’hui, nous pouvons montrer qu’à partir d’un certain niveau de complexité, il devient impossible de construire une stabilité de mémoire suffisante pour une rétention à long terme. En bref, il n’existe aucun moyen de se souvenir d’un livre autrement qu’en le relisant sans fin. C’est un processus futile.

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

Si nous générons un double texte à trous, nous ne sommes pas vraiment certains qu’une seule répétition génère une activation uniforme des deux circuits mnésiques responsables du stockage des deux éléments de connaissance distincts. Supposons que la première répétition soit le seul facteur différenciant les deux traces mnésiques, et que le reste du processus d’apprentissage suive les formules présentées plus haut.

Pour étudier le comportement de la stabilité des sous-traces mnésiques selon un schéma de répétition optimisé pour la stabilité composite avec le critère R=0,9, prenons ce qui suit :

• S _a=1
• S _b=30
• S=S _a*S _b/(S _a+S _b) (d’après l’équation 9.4)
• SInc= aS ^-b *e ^cR+ d (d’après l’équation SInc2005)
• la trace mnésique composite est consolidée par la répétition avec R=0,9, de telle sorte que les deux sous-traces soient également bien reconsolidées (c’est-à-dire que la révision de la trace composite ne doit négliger aucune sous-trace)

Comme on peut le voir dans la figure suivante, la stabilité de la mémoire pour la trace composite sera toujours inférieure à la stabilité des sous-traces individuelles ; cependant, les stabilités des sous-traces convergent.

Figure : Convergence de la stabilité des sous-traces mnésiques révisées selon le même schéma de révision, optimisé pour l’ensemble de la trace mnésique composite (c’est-à-dire que la révision a lieu lorsque la récupérabilité composite atteint 0,9). L’axe horizontal représente le nombre de révisions, tandis que l’axe vertical montre le logarithme de la stabilité. Les lignes bleue et rouge correspondent à la stabilité de deux sous-traces qui différaient sensiblement en stabilité après l’apprentissage initial. La ligne noire correspond à la stabilité composite (S=S _a*S _b/(S _a+S _b)). L’écart entre S _a et S _b s’autocorrige si chaque révision entraîne une activation uniforme de la structure synaptique sous-jacente.

Augmentation de la stabilité composite

Avertissement sur les archives : Pourquoi utiliser des archives littérales ?

Voyons maintenant en quoi SInc diffère pour la stabilité composite S et pour les stabilités des sous-traces S _a et S _b ? Si l’on suppose une stimulation identique des sous-traces mnésiques, et que l’on note SInc _a et SInc _b comme i, alors, pour la répétition numéro r, on a :

SInc _a=SInc _b= i

S _a[r]=S _a[r-1]* i
S _b[r]=S _b[r-1]* i

S[r]=S _a[r]*S _b[r]/(S _a[r]+S _b[r])=
=S _a[r-1]*S _b[r-1]* i ²/(S _a[r-1]* i+S _b[r-1]* i)=
= i*(S _a[r-1]*S _b[r-1])/(S _a[r-1]+S _b[r-1)= i*S[r-1]

En d’autres termes :

(11.1) SInc= i=SInc _a=SInc _b

Ce qui précède démontre que, dans le modèle présenté, l’augmentation de la stabilité de la mémoire est indépendante de la complexité des connaissances, à condition que les sous-traces mémorielles se reconsolident de manière égale.

L’augmentation de la stabilité composite est identique à l’augmentation de la stabilité des sous-traces

2014 : l’algorithme SM-17

Le plus récent algorithme SuperMemo peut, par sa conception même, résumer sa propre phylogénie. Il peut aussi servir à écrire l’histoire contrefactuelle de la répétition espacée. S’il n’y avait pas eu de dinosaures, les humains ne seraient peut-être jamais apparus, ou seraient différents. Pourtant, toute la branche des dinosaures dans l’arbre de l’évolution pourrait être supprimée sans que cela mette en péril la branche des mammifères, dont les humains font partie.

De la même façon, on peut retracer une chaîne d’événements apparemment déterministe dans l’émergence de la répétition espacée et de l’algorithme SM-17. Cela peut servir à « démontrer » que Biedalak ou Murakowski ont compté davantage pour l’histoire de la répétition espacée qu’ Ebbinghaus. Qu’Anki a été plus important que Pimsleur. Gary Wolf a eu plus d’impact que William James.

Cependant, l’impact maximal de la répétition espacée reste à venir, et la confluence des forces en jeu pourrait bien redistribuer ces influences initiales. En particulier, avec l’explosion d’une concurrence légitime, le rôle central de SuperMemo ne pourra être conservé que par une innovation continue (voir la créativité neuronale).

Voici comment j’expliquerais l’ensemble de l’algorithme SM-17 en reprenant les briques historiques exposées dans cet article :

• la clé de la rétention à long terme est de calculer l’espacement optimal (1985)
• comme l’espacement dépend de la complexité de la mémoire, il faut commencer par classer les éléments selon des catégories de difficulté (1987)
• on trouve le moment optimal de révision en traçant la courbe d’oubli, qui indique le moment où la rétention tombe sous un seuil acceptable (1991)
• pour trouver le moment optimal quand les données sont rares, il faut recourir à des approximations, et il est utile de savoir que l’oubli est de nature exponentielle (1994)
• comme la vitesse de l’ oubli dépend de la stabilité de la mémoire, l’algorithme tout entier doit être conçu autour des deux composantes de la mémoire (1988). L’absence de prise en compte de ce modèle est peut-être la principale erreur commise par les développeurs d’algorithmes concurrents de répétition espacée, comme dans le cas de l’approche par réseaux de neurones (1997)
• l’atout majeur du modèle à deux composantes est de permettre de calculer l’augmentation de la stabilité de la mémoire lors de la révision (2005)
• l’algorithme doit construire un modèle de la mémoire en collectant les données de répétition. Il doit être adaptable aux informations disponibles (1989)
• avant que les données ne soient disponibles, il est utile de commencer avec une formule universelle de la mémoire (1990)
• des ajustements et améliorations mineures peuvent ensuite faire toute la différence (1995), par exemple l’intervalle post-échec, la difficulté absolue, la régression multidimensionnelle rapide, etc.

Et c’est ainsi, étape par étape, que l’algorithme SM-17 s’est hissé au sommet de l’arbre évolutif de la répétition espacée.

L’adoption exponentielle de la répétition espacée

Le démarrage lent de l’algorithme SM-2

L’algorithme SM-2 a été utilisé pour la première fois en apprentissage le 13 décembre 1987 et, avec quelques ajustements mineurs, il a survécu jusqu’à aujourd’hui dans un grand nombre d’applications. SuperMemo a abandonné cet algorithme en 1989 ; pourtant, il continue de réapparaître dans de nouvelles applications à un rythme qui doit approcher plusieurs nouveaux développements par mois. J’ai perdu le compte depuis longtemps. Certaines de ses mutations contredisent les principes de SuperMemo tout en continuant d’en porter le nom. Le plus souvent, les écarts concernent des intervalles mesurés en minutes, ou le fait de diviser par deux les intervalles en cas d’échec à la note (à la manière Leitner). Ces mutations alimentent aussi certaines fausses informations sur SuperMemo. Notons que ces fausses informations ont été l’une des principales motivations à l’origine de cet article.

Lorsque Duolingo évoque, dans son article, des paramètres choisis à la main en référence à SuperMemo, cela doit provenir de textes anciens, peut-être de seconde main, peut-être écrits en référence à l’algorithme SM-2. Après tout, SuperMemo était déjà assez adaptable dès 1989, et l’algorithme SM-17 est le spécimen le plus adaptable qui existe.

Une partie de la responsabilité de cette désinformation m’incombe : j’ai cessé de me soucier de la relecture par les pairs et j’ai laissé l’information circuler sauvagement sur le web sans effort suffisant pour démonter les mythes.

Les premières applications à utiliser l’algorithme SM-2 étaient des dérivés non commerciaux de SuperMemo pour Atari dans les années 1980. Plus tard, des clones mineurs de SuperMemo (par exemple pour ordinateurs de poche) ont opté pour des variantes de l’algorithme SM-2 avec leurs propres innovations, dont beaucoup ont donné des leçons douloureuses sur les conséquences du mépris de la mémoire au nom du bourrage.

En 2001, SuperMemo World avait déjà pris cinq générations d’avance sur cet algorithme. Toutes les grandes lignes logicielles, y compris SuperMemo en ligne et SuperMemo pour Windows, avaient adopté les variantes pilotées par les données de l’algorithme. supermemo.net est devenu l’une des plateformes pionnières du e-learning (aujourd’hui transformée en supermemo.com ). SuperMemo pour Windows a été pionnier dans les solutions d’ auto-apprentissage comme la lecture incrémentale ou la créativité neuronale. Pendant ce temps, l’algorithme SM-2 devenait le choix par défaut, facile à adopter, pour d’autres développeurs.

1998 : publication et accélération

Le 10 mai 1998, l’algorithme SM-2 a été rendu public et publié sur le web ici.

Mnemosyne a été le premier outil à reprendre cet algorithme, en tant que dérivé du réseau de neurones MemAid créé en 2003. Dès 2006, Mnemosyne continue de collecter des données d’historique de répétition en faisant tourner une mutation de l’algorithme SM-2. En tant qu’application gratuite et multiplateforme, Mnemosyne a rapidement conquis une large base d’utilisateurs, par exemple sous Linux, ou chez les utilisateurs ayant des besoins en Latex.

Anki est né le 6 octobre 2006. Il s’appuyait sur l’algorithme SM-2 et, pendant presque une décennie, a assuré la plus large diffusion de cet algorithme. Il reste très vivant aujourd’hui. Anki a introduit un grand nombre d’innovations dans son algorithme, mais a refusé d’aller au-delà de ses principes de base (voir : critique de SM3+).

En 2007, lorsque nous avons rencontré Gary Wolf, SuperMemo ressemblait à une île déserte et mélancolique, ce qui amenait naturellement la question : si c’est si bon, pourquoi personne n’essaie-t-il de copier l’algorithme. Anki et Mnemosyne étaient alors peu connus. L’article de Wolf dans Wired en 2008 a provoqué un bel afflux de développeurs de logiciels éducatifs désireux de mettre en œuvre une forme de répétition espacée. L’algorithme SM-2 semblait un fruit facile à cueillir, et son expansion s’est accélérée. Beaucoup d’utilisateurs de SuperMemo affirment qu’ils n’auraient jamais découvert le logiciel sans l’article de Wolf dans Wired. Krzysztof Biedalak aime pourtant plaisanter en disant que l’article de Wolf a bel et bien été un tournant. Mais pas pour SuperMemo. Il a simplement ouvert les vannes à la concurrence, qui s’est précipitée dans le domaine de la répétition espacée.

2008 : l’explosion

Quizlet a été écrit en 2005 et lancé en 2007. C’était initialement un outil de bourrage classique ; pourtant, en 2015, soutenu par du capital-risque, Quizlet a annoncé vouloir mettre davantage l’accent sur la rétention à long terme, ce qui a conduit à l’adoption d’une variante de l’algorithme SM-2. En 2017, l’entreprise a décidé de recourir à l’apprentissage automatique pour déployer un nouvel algorithme capitalisant sur les milliards d’enregistrements de répétition collectés. Le bref passage de SuperMemo chez Quizlet a dû exposer une mutation de l’algorithme SM-2 à la plus grande base d’utilisateurs jamais atteinte. À l’époque, Quizlet affirmait toucher un lycéen américain sur deux.

La nouvelle approche adoptée par Quizlet repose sur des bases solides et pourrait donner naissance à un outil très puissant ; il est cependant très décevant d’entendre la motivation derrière ce virage vers de meilleurs algorithmes : «  le bourrage est une réalité pour de nombreux étudiants, et nous voulons les aider à tirer le meilleur parti de leur temps d’étude, quelle que soit la façon dont ils le dépensent ».  L’algorithme SM-17 offre plus de liberté aux étudiants : (1) accélérer l’apprentissage en cas de besoin, ou (2) retarder les contenus de faible priorité. Cela dit, nous déconseillons toujours le bourrage, une mauvaise pratique. Ce sont les écoles qui doivent s’adapter au cerveau humain, et non l’inverse. Cette position obstinée sur l’efficacité de l’apprentissage dessert SuperMemo, mais elle ne changera jamais.

Ce virage opéré par Quizlet en 2017, qui l’éloigne d’un simple calendrier de révision, marque probablement le moment où le vieil algorithme vénérable a dépassé le pic de sa popularité. Les nouveaux concurrents devront se tourner vers des outils intelligents, ou peut-être vers l’octroi de licences sur l’algorithme SM-17. La nouvelle est bonne.

Combien de personnes utilisent la répétition espacée ?

À la mi-1991, un de mes camarades de classe a essayé de me remonter le moral. Il a prédit que nous réussirions et parviendrions à vendre 10 à 20 exemplaires de SuperMemo. J’étais plus optimiste. En 1993, j’ai prédit un million d’utilisateurs pour 1996. En 1994, la revue polonaise Enter mentionnait un optimisme similaire chez Marczello Georgiew :

Dans les questionnaires reçus chez SuperMemo World, lorsqu’on leur demande ce qu’ils apprécient le plus dans le programme, les utilisateurs de SuperMemo citent massivement son efficacité. Le logiciel est peut-être correct, mais ce qui compte vraiment, ce sont les résultats en apprentissage. Et les points négatifs ? Les utilisateurs sont mécontents de ceci ou cela, le plus souvent du fait que, même en Pologne, SuperMemo sort toujours d’abord en anglais. Mais il n’y a pas de véritable point de rupture qui prédomine. Assurément, personne ne remet en cause le fait qu’avec SuperMemo on peut apprendre plus vite et ne plus jamais s’inquiéter d’oublier. En songeant à ce tableau idyllique, on pourrait se demander pourquoi SuperMemo ne s’est pas encore vendu à des millions d’exemplaires dans le monde. Marczello Georgiew, directeur marketing chez SuperMemo World, a proposé de se rappeler des difficultés qu’a connues Graham Bell en tentant d’introduire sa drôle de machine permettant de parler à travers un fil, ou du pessimisme des prévisions des futurologues de l’industrie sur l’expansion du cheval mécanique polluant. Puis il ajoute avec assurance :  il a fallu dix ans à Wozniak pour transformer une nécessité en invention ; donnez-nous la moitié de ce temps, et nous transformerons son invention en une nécessité mondiale.

Dans ma prédiction d’un million d’utilisateurs, je me suis trompé de 3 ans, et j’ai dû établir une distinction entre utilisateurs éphémères et utilisateurs actifs. La proportion d’utilisateurs actifs de la répétition espacée n’a cessé de baisser avec l’élargissement de l’adoption. En 2007, nous estimions la portée de SuperMemo à 5 millions, dont la plupart étaient des utilisateurs de versions gratuites ou de fascicules. Sur ces 5 millions, seulement 0,4 à 4,0 % étaient des utilisateurs actifs. Cela pouvait représenter aussi peu que 20 000 étudiants.

En 2009, Gwern Branwen a estimé la population d’utilisateurs actifs à environ 100 000, ce qui semble concorder avec mes propres chiffres. Cela ne paraît pas très optimiste pour deux décennies de dur labeur chez SuperMemo World.

Regardons maintenant plus en détail la portée actuelle de la répétition espacée. Mes estimations ci-dessous ont suscité un grand scepticisme. Je reconnais qu’elles reposent sur beaucoup de conjectures. Cependant, une fois qu’on se trouve sur une courbe de croissance exponentielle, même de grandes erreurs d’estimation ne changent pas grand-chose. On peut surestimer de 200 % et rattraper le retard très vite.

C’est pourquoi je n’hésite pas à dire que la croissance exponentielle de l’adoption de la répétition espacée file vers le grand B : un milliard d’utilisateurs. Le Kindle d’Amazon a ajouté la répétition espacée à son option Flashcard dans le Vocabulary Builder. Même les utilisateurs de SuperMemo qui possèdent un Kindle peuvent l’ignorer. Les cartes-mémoire associées aux livres, c’est précisément l’idée qui devait mener SuperMemo au NASDAQ dès 1996, si nous avions réussi à convaincre le capital-risque que l’idée avait du sens.

Cependant, pour atteindre le milliard d’utilisateurs, il nous faut une autre percée. Le premier candidat évident qui vient à l’esprit est Facebook, qui pourrait intégrer la répétition espacée dans la cacophonie des interactions sociales, et rendre l’apprentissage gratuit transparent, c’est-à-dire un apprentissage où les utilisateurs apprennent sans jamais en avoir l’intention affichée.

Si vous pensez que Facebook et la répétition espacée sont des mondes incompatibles, songez à celui de la publicité. Aujourd’hui, nous détestons tous la publicité, quelle que soit la précision de son ciblage. Pourtant, l’annonceur importun peut maximiser l’ effet mémoire et minimiser l’agacement (c’est-à-dire la récupérabilité) en recourant à la répétition espacée. Même la publicité télévisée la plus captivante nous agace dès la troisième exposition. Une révision espacée pourrait garantir une récupérabilité faible et une rétention élevée.

Enfin, et surtout, la révision espacée pourrait aussi être exploitée par les mauvais acteurs : les fabricants de fausses informations, et pire encore. Un charlatan de la communication pourrait tirer les ficelles dans l’ombre d’un dirigeant mondial. Il pourrait secouer le monde par petites doses espacées. Cela pourrait exposer l’ensemble du monde à la répétition espacée, pour être sûr que nous nous souvenions tous.

Le sommet de la pyramide est si mauvais que je ne vais même pas le décrire. Je ne veux pas donner d’idées aux mauvais acteurs.

Mes estimations ci-dessous incluent quelques points assez certains. Le premier utilisateur en 1985, le deuxième en 1987, un million d’ici 2000, et mon estimation laborieuse de 5 millions en 2007. Aujourd’hui, Duolingo revendique 200 000 utilisateurs. Quizlet en revendique encore plus. La croissance ne montre encore que peu de signes de saturation.

Figure : Nous nous attendions à ce que la répétition espacée montre des signes de saturation depuis longtemps. Pourtant, par transmutation, elle finira inévitablement par atteindre le milliard d’utilisateurs. Une fois intégrée à la vie numérique humaine, elle affectera presque tout le monde. Si mon estimation est juste, la vitesse d’adoption, portée par le web, dépasse encore celle du téléphone, de la voiture et de la radio. Nous n’aurions jamais imaginé rivaliser avec Pokémon ou Angry Birds pourtant. La formule de régression exponentielle du graphique est : Portée=exp((année-1984)*0,63). La ligne rouge déterminée par cette formule franchit le seuil du milliard à peu près maintenant

Aujourd’hui, avec presque aucune barrière à l’entrée, de nombreux étudiants essaient puis abandonnent après quelques semaines, voire quelques jours d’utilisation. La proportion d’utilisateurs actifs peut être très faible. Un milliard d’utilisateurs pour un apprentissage négligeable reste un apprentissage négligeable. La prochaine étape consiste à provoquer un changement de paradigme culturel qui donnera de la valeur à un apprentissage efficace sur le long terme. Il faut commencer par une réforme du système scolaire et adopter les principes de l’ apprentissage libre.

Une fois que la répétition espacée aura atteint le milliard d’utilisateurs, un changement de paradigme culturel sera nécessaire pour convertir cette utilisation en bénéfices réels pour un apprentissage de qualité sur le long terme

La route à parcourir reste encore très longue.

Résumé de la recherche sur la mémoire

Le problème de la recherche sur la répétition espacée

L’histoire de la recherche sur la répétition espacée a été gênée par les facteurs suivants :

• des conjectures et des heuristiques utilisées à la place de l’optimisation mathématique
• une mauvaise interaction entre théorie et pratique, la science se concentrant sur des expériences simples et la pratique sur des outils simples
• une incohérence terminologique qui entretient des cycles d’oubli puis de redécouverte !

Ce qui précède correspond à mon classement des facteurs d’échec. Jusqu’à l’arrivée de l’informatique personnelle et du web, il était difficile d’échapper à ce cercle vicieux.

Les intuitions sur la répétition espacée

Lorsque nous avons interrogé des adolescents sur le fonctionnement de leur mémoire, une large proportion a proposé de très bonnes conjectures sur l’espacement des répétitions, sans jamais avoir effectué de mesure. En particulier, ils devinent souvent correctement que le premier intervalle optimal entre deux répétitions pourrait durer de 1 à 7 jours et que les intervalles suivants augmenteront. De plus, beaucoup pouvaient deviner que le deuxième intervalle pourrait durer un mois et que les intervalles suivants pourraient doubler. En d’autres termes,  la répétition espacée est une intuition commune.

Les débuts de la recherche sur la mémoire

En 1885, Hermann Ebbinghaus a apporté une contribution majeure à la science de la mémoire. Il a expérimenté sur lui-même et a esquissé la première courbe d’oubli. Il connaissait aussi l’ effet d’espacement. Il n’a jamais travaillé sur la répétition espacée. Je n’attribue pas à Hermann le mérite d’avoir inspiré mon travail sur la répétition espacée, car je n’avais tout simplement aucune idée de qui était Hermann ni de ce qu’il avait accompli. J’ai conçu ma propre mesure qui a conduit à la répétition espacée. Au cours d’un exercice sans rapport et depuis oublié, j’ai aussi produit ma propre courbe d’oubli, qui a peut-être influencé ma réflexion. La courbe d’Hermann était bien plus abrupte et aurait pu, en réalité, dissuader de poursuivre les travaux (voir :  l’erreur de la courbe d’oubli d’Ebbinghaus). Notre bibliothèque de l’université Adam Mickiewicz était bien fournie en littérature allemande « ancienne » d’avant la Seconde Guerre mondiale, mais je ne connaissais pas l’allemand. Ma démarche fut celle d’un ignorant travaillant seul. J’ai lu sur Ebbinghaus plus tard, et j’ai mentionné sa courbe d’oubli dans mon mémoire de fin d’études.

Dès 1901, dans les écrits de William James, la supériorité de la révision espacée semblait évidente, et il paraissait n’être qu’une question de temps avant qu’elle n’imprègne la théorie de l’apprentissage, l’optimisation de l’espacement apparaissant comme l’étape suivante logique. Il n’en fut rien. Pendant huit décennies encore.

Dans son ouvrage populaire de 1932, C. A. Mace a suggéré un calendrier simple de répétition espacée : 1 jour, 2 jours, 4 jours, 8 jours, etc. Bonne intuition ! L’effort de Mace fut pourtant oublié, car la répétition espacée « sur papier », avant l’ère d’Internet, ne devait guère être séduisante. Pour bien démarrer, Mace aurait eu besoin d’un bon exemple à mettre en avant. Je parie que ce n’était pas facile. Herr Hitler dominait l’actualité à cette époque.

Les années 1960 : la Renaissance

En 1966, Herbert Simon a jeté un œil à la loi de Jost, dérivée vers 1897 des travaux d’Ebbinghaus. Simon a remarqué que la nature exponentielle de l’oubli implique nécessairement l’existence d’une propriété de la mémoire qu’on appelle aujourd’hui la stabilité mémorielle. Simon a rédigé un court article puis est passé à d’autres centaines de projets qui l’occupaient. Son texte fut largement oublié.

À peu près à la même époque, Robert Bjork développait un grand nombre d’idées novatrices sur l’apprentissage et la mémoire. Comme souvent, il était en avance sur son temps. Les enseignants écoutent rarement les psychologues. Les étudiants ne connaissent même pas leurs noms. Si Bjork avait été programmeur, nous aurions peut-être connu la première application populaire de la répétition espacée une décennie plus tôt. Je pense qu’il n’aurait tout simplement pas laissé filer une bonne idée. C’est Bjork qui semble avoir été le premier à distinguer clairement la force de récupération et la force de stockage, dans un modèle analogue à notre modèle à deux composantes de la mémoire.

En 1967, Paul Pimsleur voyait déjà clairement que la répétition espacée pouvait être un excellent outil pour apprendre des paires de mots dans l’apprentissage des langues. Comme SuperMemo, il s’est heurté à la terminologie et a utilisé l’expression « rappel à intervalle croissant ». Dans notre défi de la « courbe d’oubli en dents de scie », Pimsleur s’en est approché le plus, avec le plus ancien graphique connu de courbes en dents de scie, comme sur l’image :

Peut-être découvrirons-nous des esquisses plus anciennes de cette idée ; toutefois, pour des raisons techniques, plus l’imprimé est ancien, moins il est riche en graphiques, que nous produisons aujourd’hui en masse dans Excel.

Les intervalles de Pimsleur s’étendaient jusqu’à des périodes de quelques heures, minutes, voire secondes. C’était le reflet d’une intuition, non d’une mesure. Il a étendu son raisonnement des connaissances déclaratives, faciles à mesurer (comme les paires de mots), aux connaissances procédurales et à la reconnaissance de motifs sonores, comme dans l’apprentissage de la prononciation. SuperMemo résout ce problème en séparant l’apprentissage des paires de mots de la prononciation, de l’orthographe, de la reconnaissance, des synonymes, etc. Ainsi, par exemple dans Advanced English, nous n’avons jamais besoin de réduire les intervalles au-delà de la stabilité initiale standard de l’utilisateur, qui descend rarement sous un jour. Pour des raisons pratiques, et en raison du rôle du sommeil, SuperMemo n’utilise jamais d’intervalles plus courts qu’un jour. Le sommeil est aussi la principale raison pour laquelle l’algorithme utilise une résolution d’un jour dans la longueur des intervalles. SuperMemo permet de réviser plusieurs fois par jour, mais cela fait partie d’une révision de sous-ensemble qui peut, à l’occasion, s’avérer utile (par exemple lors d’un bourrage avant un examen). Les recommandations d’intervalles de Pimsleur différaient de celles de Mace ou de SuperMemo sur papier (l’algorithme SM-0). Elles ne résultaient pas d’une mesure, mais d’une spéculation, allant de solide à médiocre. Pimsleur visait un taux de rappel de 60 %, ce qui est très faible selon les standards de SuperMemo. Il misait sur une stabilité initiale de 5 secondes, alors que SuperMemo utilise 1 à 15 jours, ce qui convient très bien pour un rappel de 90 % avec des connaissances bien formulées. La base d’exponentiation des intervalles de Pimsleur (le facteur E) était de 5, alors qu’elle devrait se situer entre 1,4 et 2,5 dans la plupart des cas. En conséquence, l’espacement de Pimsleur diffère radicalement de celui de SuperMemo et ne devrait pas servir de référence dans une mesure algorithmique. Dans son article original (1967), Pimsleur proposait des intervalles de 5 s, 25 s, 2 min, 10 min, 1 heure, 5 heures, 1 jour, 5 jours, 25 jours, 4 mois et 2 ans. Ces différences provenaient surtout de la pratique fondée sur des matériaux de nature différente (équivalent à une complexité élevée dans SuperMemo). L’usage des secondes, des minutes et des heures équivaut à du bourrage et est fortement déconseillé dans SuperMemo. À la place, il est recommandé d’optimiser la représentation des connaissances.

En 1969, Alfred Maksymowicz a écrit « Lire et penser ». Vous ne trouverez pas son livre dans votre bibliothèque. Il était rédigé en polonais et destiné à un cercle restreint d’étudiants d’universités techniques. Il évoquait la répétition espacée, les courbes d’oubli, et même la manière dont l’ indice d’oubli pourrait déterminer l’ intervalle optimal. Maksymowicz proposait que le premier intervalle optimal soit de 3 jours. Comme tant d’efforts avant et après, ce bon conseil est resté largement ignoré. Les étudiants se précipitent pour réussir un examen, puis oublient. Le bourrage-puis-abandon est le principe selon lequel la pression de la scolarité détruit les perspectives d’un bon apprentissage à long terme. Je ne connais le livre de Maksymowicz que parce que j’ai étudié dans une université technique en Pologne, et que j’étais assez bruyant à propos de ma propre méthode de répétition espacée. Je peux seulement imaginer qu’il existe des dizaines d’autres textes similaires où des intuitions ont été formulées comme de bons conseils, restés ensuite ignorés par la masse. Sans la coïncidence du temps et de l’espace, les futurs textes sur la répétition espacée n’auraient peut-être jamais remarqué l’existence de Maksymowicz. Il a pu être inspiré par Pimsleur, Mace, sa propre intuition, ou d’autres textes que je ne connais pas. Maksymowicz donne du crédit aux mots de Szafraniec, sceptique à l’égard de SuperMemo :  « tout a déjà eu lieu auparavant ».

1972 : la boîte de Leitner

Le plus grand succès pratique et algorithmique dans le domaine de la révision espacée avant SuperMemo revient à Sebastian Leitner. En 1972, il a proposé le système de boîte de Leitner . Dans un système de Leitner, les cartes-mémoire sont hiérarchisées et déposées dans des boîtes correspondant à différents niveaux de stabilité. Le système de Leitner a un immense avantage sur les conseils théoriques qui circulaient avant sa proposition : il était pratique. C’était un système que n’importe qui pouvait utiliser avec très peu d’explications. Même SuperMemo sur papier ( 1985) paraît complexe en comparaison.

Figure : Une mutation incorrecte du système de Leitner où les réponses ratées ne sont reculées que d’une seule boîte (source : Wikipedia). Cette variante a été utilisée par Duolingo pendant un temps

La boîte de Leitner n’est pas un outil de répétition espacée. C’est un outil de hiérarchisation. Il n’existe aucune notion d’intervalle, encore moins d’ intervalle optimal. Le nom boîte vient de l’ implémentation originelle, sous forme de boîtes physiques de cartes-mémoire, sans lien avec l’écoulement du temps. Lorsque la boîte de Leitner est utilisée régulièrement sur une petite collection de cartes-mémoire, elle simule le comportement de la répétition espacée. Si les intervalles sont trop courts, cela mène au bourrage. S’ils deviennent trop longs, cela produit des résultats sous-optimaux. Cependant, dans SuperMemo, les contenus de faible priorité peuvent aussi être reportés cycliquement et donner lieu à de très longs intervalles, qui réduisent l’augmentation attendue de la stabilité, mais qui apportent une plus grande augmentation de stabilité pour les éléments qui survivent à des intervalles plus longs. Dans les années 1990 et au début du nouveau millénaire, le système de Leitner a été utilisé dans de nombreuses applications de cartes-mémoire à succès. À force de peaufiner et d’améliorer les procédures de révision, ces applications ont pu évoluer vers de véritables systèmes de répétition espacée. Leur usage a toutefois décliné en raison de la popularité de l’algorithme SM-2 de SuperMemo, qui s’est révélé facile à implémenter et bien supérieur.

Les mutations logicielles plus récentes du système de boîte de Leitner peuvent associer des intervalles aux boîtes de priorité, par exemple 16 jours pour la boîte n°5, mais cette approche présente des défauts assimilables au bourrage : (1) l’échec entraîne toujours une régression des intervalles, alors qu’il devrait plutôt relancer l’apprentissage ; (2) cinq répétitions dans le premier mois ne se compare pas favorablement à des connaissances bien formulées, qui peuvent réduire le coût de l’apprentissage dans SuperMemo de 60 à 80 % au cours du seul premier mois ; et (3) il faudrait davantage de boîtes. Nous avons vu, dans SuperMemo, des intervalles dépassant largement l’espérance de vie humaine maximale. Les besoins pour des applications valables toute une vie sont 200 000 % plus élevés. C’est la différence entre un intervalle de stockage permanent et 16 jours. Il faudrait 11 boîtes supplémentaires pour couvrir toute une vie avec un facteur E de 2.

Aujourd’hui, l’un des systèmes les plus populaires pour apprendre les langues est Duolingo. Pendant longtemps, il a utilisé le système de Leitner. Aujourd’hui, il emploie son propre nouvel algorithme fondé sur des prédictions de récupérabilité. Ils continuent cependant d’utiliser le système de Leitner comme référence. Pour couronner le tout, leur référence utilisait le transfert inverse des cartes-mémoire entre les boîtes de priorité (où la stabilité post-échec est surestimée). Le Leitner normalisé pourrait servir de référence, mais une normalisation simple, équivalente à l’usage d’un facteur E de 2, peut produire des résultats différents du choix d’un facteur E de 1,6. À l’avenir, tous les algorithmes devraient adopter une métrique universelle proposée par SuperMemo, et l’algorithme SM-2 pourrait devenir une référence métrique utile, implémentable en parallèle des solutions propriétaires. J’espère que les utilisateurs exigeront clarté, statistiques, mesures et pleine transparence à ce sujet.

Dans les années 1970, Tony Buzan s’est concentré sur la structuration des connaissances avec ses innovations en cartographie mentale. Les cartes mentales et SuperMemo se sont, paradoxalement, retrouvés en conflit, faute d’une bonne théorie unificatrice. En bref, il nous faut de bons modèles pour comprendre le monde, et il nous faut la révision espacée pour retenir sur le long terme les composantes de ce modèle. Buzan avait aussi ses propres idées sur la façon d’espacer la révision. Lorsqu’il a découvert SuperMemo au début des années 1990, il a immédiatement adhéré au concept, tout en continuant à préférer se concentrer sur la structure des connaissances plutôt que sur la simple révision.

Les années 1980 : SuperMemo

Mon propre travail est entré en scène en 1982, lorsque j’en ai vraiment eu assez de ce processus d’oubli sans fin. Je voulais apprendre la biochimie et la physiologie. Je lisais des livres, prenais des notes, et tout cela ne servait à rien à cause de l’oubli. Même les faits les plus importants pouvaient m’échapper au moment le plus malheureux (par exemple un examen). J’ai décidé de recourir au rappel actif. Au lieu de simplement prendre des notes, je les rédigeais sous forme de questions et de réponses. Je pouvais cacher les réponses et répondre par rappel actif. Cela améliorait considérablement l’apprentissage. C’est ainsi que cela se fait dans SuperMemo aujourd’hui encore. Cette nouvelle approche a eu un effet merveilleux sur ma passion pour l’apprentissage.

Dès 1984, j’étais suffisamment rodé à mon approche de rappel actif pour savoir que les questions complexes ne fonctionnent pas. Si vous entassez trop de choses dans la réponse, par exemple en en faisant une longue liste, vous n’arrêterez pas d’oublier. Ce serait un apprentissage vain. J’ai appelé plus tard cette quête de simplicité le «  principe d’information minimale ». Aujourd’hui, ce principe est l’un des premiers cités parmi les 20 règles de formulation des connaissances.

La véritable percée est survenue en 1985, soit exactement 100 ans après la publication de la thèse d’Ebbinghaus sur la mémoire. Je voulais vérifier comment l’espacement des révisions influençait le rappel. Il me fallait déterminer la longueur des intervalles optimaux entre les répétitions. Ces intervalles existaient, à l’évidence. Il me suffisait de les mesurer. L’expérience est décrite ici. L’expérience était simple, rudimentaire, paresseuse et menée à la hâte. Plutôt que de prendre patiemment quelques années pour en établir tous les détails, j’ai formulé, après 6 mois, le premier algorithme SuperMemo. On peut y voir le premier cas de répétition espacée un tant soit peu scientifique. Ma recherche reposait sur une seule personne et un seul type de matériel d’apprentissage, mais elle s’est révélée suffisamment universelle pour compter, des années plus tard, de nombreux adeptes fidèles. Le 31 juillet 1985, j’ai commencé à apprendre la biochimie avec cette nouvelle méthode. C’est l’anniversaire de la répétition espacée informatisée. Le logiciel SuperMemo pour DOS est sorti en 1987, et le nom SuperMemo en 1988.

Dans les années 1980, le modèle de chaîne mémorielle de Jaap Murre fut l’un des premiers modèles de la mémoire qui aurait pu déboucher sur un algorithme de répétition espacée solide. Il disposait même de sa propre application précoce, Captain Mnemo, qui aurait pu rivaliser avec SuperMemo pour la primauté dans ce domaine. Captain Mnemo et OptLearn illustrent bien pourquoi, dans les milieux académiques, de grandes théories ne sont souvent pas suivies de mises en œuvre pratiques capables de séduire un public plus large.

En 1991, SuperMemo World a été fondé, et ses débuts sont décrits ici. Dès 1999, nous avons commencé à employer le terme « répétition espacée » au lieu de la «  méthode SuperMemo ». Pour les développements récents chez SuperMemo World, voir ici.

Anatomie de l’échec et du succès

Formule de l’échec de la recherche

Certaines intuitions sur la répétition espacée sont assez répandues. Cela pose une question majeure : pourquoi la répétition espacée n’a-t-elle pas été étudiée plus tôt, et pourquoi n’a-t-elle pas imprégné les pratiques d’apprentissage ? Les intuitions ne suffisent pas ; un bon protocole expérimental est également essentiel. Cette section explique pourquoi d’autres sont passés près du but sans y arriver. Comment Ebbinghaus ou Spitzer auraient pu faire naître la répétition espacée 90 à 130 ans plus tôt. Il doit y avoir un problème avec la recherche de gratification immédiate dans la relecture par les pairs et la course aux financements. Pourquoi y a-t-il tant d’agitation autour de la question de « droguer » les enfants pour l’école, tandis que des maladies qui font de lourds ravages dans les pays moins développés suscitent si peu d’intérêt ?

Dans ce chapitre, j’essaie de comprendre pourquoi la répétition espacée est arrivée si tardivement. Voici mon analyse, classée selon son facteur d’impact :

• les ordinateurs font une différence considérable dans l’efficacité de l’apprentissage par répétition espacée ; les premières formulations n’auraient pas été suffisamment virales, même à l’ère d’Internet
• le web perpétue les connaissances et en cristallise l’essence (par exemple sur Wikipédia)
• les intuitions ne garantissent pas un bon protocole expérimental. Moi-même, Ebbinghaus, Spitzer et d’autres avons produit des protocoles qui ajoutaient plus de bruit et de complexité au problème
• la culture humaine est en perpétuel mouvement. Nous oublions massivement puis redécouvrons de vieilles découvertes. Cela vaut aussi bien pour les individus que pour les cultures. La science elle-même est soumise aux modes, aux tendances et à l’oubli. Ce n’est que récemment que la répétition espacée a atteint la « densité d’impact » nécessaire pour devenir une « connaissance commune ». Voir :  discontinuité dans la recherche sur l’effet d’espacement
• l’intérêt personnel et l’ auto-apprentissage sont les meilleurs moteurs de l’applicabilité. La science pénètre les vies par ses applications pratiques. SuperMemo a été la première application pratique de la répétition espacée capable d’atteindre des milliers, puis des millions d’utilisateurs
• il y a longtemps régné une grande confusion entre mémoire à court et à long terme, entre l’espacement dans des listes et l’espacement au sein d’une même journée, et même entre apprentissage procédural et déclaratif
• un calendrier à intervalles croissants, décroissants ou égaux peut tous être rendu supérieur avec le bon minutage
• les expérimentateurs ont tendance à utiliser des matériaux hétérogènes (poèmes, listes, syllabes absurdes, pages de questions, groupes d’étudiants, etc.)
• les expériences où l’on utilise une révision passive plutôt que le rappel actif ne bénéficient pas de l’ effet de test
• les expériences où les intervalles sont mesurés en éléments intercalés reposent sur des mécanismes mémoriels différents et ne devraient même pas être qualifiées de répétition espacée. Encore aujourd’hui, une grande partie de la confusion dans la recherche vient du mélange des mesures d’intervalles sans séparation claire de la terminologie
• la courte durée des projets de recherche rend les études sur la répétition espacée quasiment impossibles
• l’accent mis sur les applications en classe a brouillé les résultats. Les écoles ne sont pas un bon lieu pour apprendre. Une recherche optimisée pour l’environnement scolaire n’a que peu de pertinence pour l’ apprentissage libre
• la distinction ancestrale entre apprentissage et rétention brouille la réflexion sur l’éducation optimale. Cette distinction vient de la scolarité, où l’on apprend d’abord puis on prie pour oublier le moins possible
• la terminologie ne cesse de muter, ce qui empêche les nouvelles générations de chercheurs de capitaliser sur les travaux antérieurs. Même notre propre article de 1994 utilise l’expression espacement des répétitions. Pour la liste des mutations terminologiques, voir cette entrée du glossaire. Le web, l’intelligence collective et les wikis (comme celui-ci) sont susceptibles de remédier au problème terminologique

En 2006, Will Thalheimer a produit une excellente synthèse de la recherche sur la répétition espacée, fondée sur plus de 100 articles scientifiques. Pourtant, dans sa conclusion, Thalheimer a exprimé des doutes sur la valeur de l’espacement progressif. Cela montre que même des dizaines d’articles ne servent à rien si le protocole expérimental repose sur des modèles erronés.

Dans la répétition espacée, il ne suffit pas que la révision soit croissante. Elle doit être optimalement croissante

Des expérimentations manquées

Je vais présenter trois cas d’expériences condamnées, dès le départ, à échouer ou à semer la confusion :

• Hermann Ebbinghaus (1885) était motivé par la science de la mémoire. Ses intuitions étaient excellentes, mais, par souci de pureté, il s’est concentré sur des syllabes dénuées de sens. Sans le vouloir, il a ainsi contribué à la complexité de la mémoire et à l’ interférence, qu’il souhaitait précisément éviter. Sa courbe d’oubli est impitoyable et décourageante. Si Ebbinghaus avait appris un contenu significatif qui l’intéressait, il aurait peut-être étendu la portée de son expérience. Nous savons tous, depuis l’école, que bourrer du contenu absurde relève d’une forme de torture mentale. Si Ebbinghaus avait opté pour des applications pratiques, comme je l’ai fait moi-même, une version « sur papier » de la répétition espacée aurait pu naître très précisément 100 ans avant les faits. Naturellement, sans ordinateurs, sans le web, ses idées seraient peut-être quand même retombées dans le puits du silence pendant un siècle, comme cela est réellement arrivé au concept d’ effet d’espacement.
• Herbert Spitzer (1939) était motivé par l’amélioration des performances en classe. Il a choisi le pire cas d’hétérogénéité possible. Là où je me suis débattu avec des pages de matériel de difficulté mêlée, et où Ebbinghaus se débattait avec du matériel dénué de sens, Spitzer a aggravé ces effets par l’hétérogénéité des esprits. Au lieu de pages de questions, Spitzer a exposé des groupes d’élèves à des pages de lecture. Dans ces conditions bruyantes, il est difficile de percevoir les régularités de l’ oubli exponentiel et de la répétition espacée. Même si les résultats de Spitzer avaient été massivement positifs, je doute que la bureaucratie du système éducatif en aurait tiré bon usage. L’éducation est régie par les tests standardisés, les notes et les diplômes. Elle est rarement guidée par la science et par l’impact réel des procédures d’apprentissage sur les résultats. C’est un système d’usine. Les efforts de Spitzer étaient aussi vains que les idées révolutionnaires de Benezet formulées une décennie plus tôt (1929)
• Wozniak (1985). Ma propre expérience trompeuse sur la répétition espacée a débuté le 31 janvier 1985 et aurait pu ruiner mes efforts si elle avait suffisamment brouillé mon esprit. Heureusement, avant même l’arrivée des résultats, j’avais conçu une meilleure expérience, et je n’ai jamais été affecté par cette confusion.

Les expériences d’Ebbinghaus (1885)

Le mythe

Un mythe populaire veut qu’Ebbinghaus ait inventé la répétition espacée en 1885. Ce mythe est né de notre propre documentation SuperMemo. Lorsque nous avons rédigé l’ histoire de SuperMemo pour le web en 1997, nous avons ajouté quelques noms ayant contribué à la recherche sur la mémoire. Comme expliqué ici, il était important d’ancrer SuperMemo dans la science. Ma propre contribution a toujours été minimisée en raison du poids négligeable de mon nom. Comme Ebbinghaus figurait en tête de liste pour des raisons chronologiques, l’idée qu’il soit le père de la répétition espacée a rapidement pris racine. Même nos propres documents ont, par erreur, évolué dans ce sens à force d’une édition négligente. Aujourd’hui, le web est saturé d’Ebbinghaus et de l’ensemble en dents de scie des courbes d’oubli. Si vous cherchez « courbes d’oubli » sur Google, voici ce que vous verrez :

Figure : Recherche Google pour «  courbe d’oubli » (novembre 2017). L’« ensemble en dents de scie » des courbes d’oubli domine les résultats. Beaucoup d’images sont attribuées à tort au nom d’ Hermann Ebbinghaus. L’origine la plus fidèle de cette image est présentée dans Les deux composantes de la mémoire

Ce sont les mêmes courbes en dents de scie que celles que j’ai représentées dans Optimisation de l’apprentissage (1990) :

Mécanisme hypothétique impliqué dans le processus d’apprentissage optimal

Pour en savoir plus sur ce mythe, voir notre blog :  Ebbinghaus a-t-il inventé la répétition espacée ?

Le fait

Nous devrions plutôt nous étonner du fait qu’Ebbinghaus n’ait pas inventé la répétition espacée. Il en était pourtant très proche. Il touchait presque tous les bons leviers.

Voici ce qu’il a écrit à propos de l’ effet d’espacement :

Pour le réapprentissage d’une série de 12 syllabes à un moment déterminé, en conséquence, 38 répétitions, réparties d’une certaine manière sur les trois jours précédents, ont eu un effet tout aussi favorable que 68 répétitions faites la veille même. Même en accordant de très larges concessions à l’incertitude de chiffres fondés sur si peu de recherches, l’écart est suffisamment grand pour être significatif. Cela rend probable l’hypothèse selon laquelle, pour un nombre considérable de répétitions, une répartition adaptée sur une période de temps est nettement plus avantageuse que leur concentration en un seul moment.

Pourquoi Ebbinghaus n’a-t-il pas franchi l’étape suivante, en apparence évidente, consistant à observer comment la courbe d’oubli change après une révision ? D’abord, il ne testait pas l’oubli, mais l’économie réalisée lors du réapprentissage. Ses tests constituaient déjà une révision. Avec mon approche, il est naturel de vouloir atteindre un niveau donné de rétention. Il est conceptuellement moins intuitif de viser une réduction donnée du coût du réapprentissage.

Cependant, une solution pour surmonter cet obstacle conceptuel serait de persévérer dans l’apprentissage. La créativité se nourrit de l’investissement de temps et de réflexion dans des contextes variés. Pour moi, la réponse à l’énigme Ebbinghaus est très simple. Comme tout bon scientifique, Ebbinghaus était un perfectionniste théorique. Il a choisi de mémoriser des syllabes dénuées de sens pour minimiser l’ interférence avec ses connaissances antérieures. Malheureusement, cela a eu quelques effets secondaires néfastes :

• ses listes étaient difficiles à apprendre et sa courbe d’oubli était très abrupte. Cela donne un tableau très décourageant pour tout étudiant soucieux de se souvenir sur le long terme
• ses listes ne lui procuraient aucun plaisir d’apprendre. C’est l’exact opposé de ce que j’ai vécu en 1985. Chaque élément de ma collection papier représentait un petit pas en avant qui faisait progresser mes connaissances vers un nouveau niveau. Une fois ma première courbe d’oubli tracée, je voulais savoir ce qui se passait après la révision suivante
• Ebbinghaus s’est concentré sur le temps ou l’effort nécessaire au réapprentissage, alors que je me suis toujours principalement intéressé à la rétention, en m’intéressant peu au temps ou à l’effort nécessaires pour ramener le rappel à 100 %

Je me risquerai donc à affirmer que, dans tous ses efforts héroïques de mémorisation, Hermann Ebbinghaus en a eu assez d’apprendre des inepties. Cela briserait l’étudiant le plus persévérant. Ma chance a plutôt tenu à ce besoin brûlant d’obtenir de bons résultats en apprentissage. Cela a engendré une auto-perpétuation de l’effort, ce qui aide à surmonter les obstacles à la créativité.

Chose intéressante, en 2015, Jaap Murre a reproduit l’expérience originale d’Ebbinghaus avec une méticulosité digne d’Ebbinghaus lui-même (allant jusqu’à explorer les manuscrits originaux). Murre a eu la prudence de ne pas se soumettre à l’épreuve mentale des syllabes dénuées de sens, ce qui aurait pu introduire un biais. Il a choisi le meilleur sujet possible : un étudiant de 22 ans, récompensé par une co-signature de la publication. Fait notable, Murre semble avoir su capter l’effet circadien de l’apprentissage, sa courbe présentant une légère remontée après une période de 24 heures.

L’économie réalisée lors du réapprentissage

Il existe une énorme différence entre la récupérabilité et les « économies réalisées lors du réapprentissage ». Selon le moment, une absence de récupération peut signifier que le fait vient « juste d’être oublié et se réapprend facilement » ou qu’il est « oublié pour de bon ». L’économie réalisée lors du réapprentissage peut être non nulle pour un contenu de récupérabilité nulle. En termes simples, l’absence d’accès aux souvenirs n’implique pas une stabilité nulle. En ce sens, la courbe d’Ebbinghaus n’est même pas une bonne expression de l’oubli exponentiel. L’économie réalisée lors du réapprentissage diffère selon que le matériel est difficile ou facile.

Courbe d’oubli (1984)

En rédigeant le chapitre consacré aux courbes d’oubli, je pensais que ma propre notion de la courbe d’oubli était erronée au départ. Pourtant, en fouillant dans mes archives, j’ai découvert par hasard que j’avais moi aussi tracé, en 1984, une courbe d’oubli pour la rétention du vocabulaire anglais, quelques mois seulement avant de concevoir SuperMemo sur papier :

Figure : Ma toute première courbe d’oubli pour la rétention du vocabulaire anglais, tracée en 1984, c’est-à-dire quelques mois avant de concevoir SuperMemo sur papier. Ce graphique ne faisait pas partie de l’expérience. C’était simplement une évaluation cumulative des résultats d’un apprentissage intermittent du vocabulaire anglais. Le graphique fut vite oublié. Il a été redécouvert 34 ans plus tard. Après mémorisation, 49 pages d’environ 40 paires de mots anglais ont été révisées à différents intervalles, et le nombre d’erreurs de rappel a été enregistré. Après élimination des valeurs aberrantes et calcul de la moyenne, la courbe apparaît bien moins abrupte que celle obtenue par Ebbinghaus (1885), qui utilisait des syllabes dénuées de sens et une mesure différente de l’oubli : l’économie réalisée lors du réapprentissage

J’avais oublié avoir tracé cette courbe. Je présume qu’une fois que j’ai eu SuperMemo, cette courbe ne me semblait plus importante ni pertinente. Je ne me concentrais pas sur la « science de la mémoire ». Je voulais simplement obtenir de bons résultats en apprentissage. Apparemment, je ne pensais pas que tracer une courbe d’oubli était un événement majeur. J’ai presque manqué cette figure en 2018 aussi, tant elle était mentionnée en petits caractères :  vitesse moyenne d’oubli pour la première mémorisation.

Le résultat provenait de 49 pages de 40 paires de mots chacune, soit 1 960 mots (comparer avec : 13 années de scolarité en un mois). J’apprenais pour le plaisir d’apprendre, pas pour l’expérience. Il n’y avait pas réellement d’expérience. Il me suffisait de collecter les chiffres issus de mon effort d’apprentissage réel et de tracer la courbe. La simplicité de ce calcul explique peut-être aussi pourquoi j’ai si facilement oublié cet exercice.

J’ai écrit plus haut sur les intuitions simples qui précédaient l’ expérience de 1985. À la lumière de cette courbe de 1984, il se pourrait que ces intuitions aient été tirées de cette petite expérience. Ce qui semble aujourd’hui évident ne l’était peut-être pas sans le béquille de ce petit calcul. Cependant, je peux supposer qu’en février 1985, j’avais déjà oublié ma courbe, car je n’ai pas sauté l’Étape A dans l’ expérience de répétition espacée. Ma courbe d’oubli concordait avec l’expérience, et le premier intervalle de révision devait effectivement être d’un jour.

La notion erronée de courbes sigmoïdes a dû naître plus tard. Aujourd’hui, il me semble me souvenir vaguement avoir initialement pensé que la nature sigmoïde n’intervenait qu’après la première révision. Je ne saurai peut-être jamais comment fonctionnait exactement ma pensée à cette époque. Tout ce qui m’importait, c’était l’efficacité de SuperMemo. Emporté par l’excitation de cette découverte, j’ai oublié ma courbe pendant 34 ans en tout. Aujourd’hui, ce petit graphique n’a d’importance que pour illustrer avec quelle facilité on peut découvrir, oublier, s’égarer, redécouvrir, puis redécouvrir la découverte originale. La mémoire est faillible. Dieu bénisse la répétition espacée.

Figure : La toute première courbe d’oubli pour la rétention du vocabulaire anglais, tracée en 1984 (quelques mois avant de concevoir SuperMemo sur papier). Ce graphique ne faisait pas partie d’une expérience. C’était simplement une évaluation cumulative des résultats d’un apprentissage intermittent du vocabulaire anglais. Le graphique a été oublié, puis redécouvert 34 ans plus tard. Après mémorisation, 49 pages d’environ 40 paires de mots anglais ont été révisées à différents intervalles, et le nombre d’erreurs de rappel a été enregistré. Les cercles blancs correspondent au rappel dérivé du nombre moyen d’erreurs par page après un intervalle donné. La régression logarithmique en orange offre le meilleur ajustement. La régression en puissance, en rouge, la suit de près. C’était prévisible pour un matériel hétérogène (des pages de mots). Cela ressemble aussi beaucoup aux résultats obtenus par Ebbinghaus (1885), à ceci près que la courbe est bien moins abrupte, comme il convient à du matériel porteur de sens. Comme prévu, la régression exponentielle en blanc offre l’ajustement le plus faible

Expérience de Spitzer (1939)

En 1939, Herbert F. Spitzer a étudié différents calendriers de tests sur 3 605 élèves de sixième année (CM2) dans 9 villes de l’Iowa. Cela représentait la population entière de 91 écoles. Les enfants lisaient un texte de 6 pages, et leurs connaissances étaient ensuite évaluées à l’aide de 25 questions précises.

Spitzer a conçu différents calendriers de tests ; toutefois, son protocole ne visait clairement pas l’espacement optimal, et le résumé de sa recherche ne formulait aucune recommandation à ce sujet.

Figure : Diagramme de la procédure. Spitzer (1939).

Seuls les deux premiers groupes d’élèves ont suivi un calendrier croissant. Ce sont ces groupes qui ont obtenu les meilleurs résultats aux tests ; pourtant, Spitzer a attribué cela à l’ effet de test, ces deux groupes étant les seuls à avoir subi 3 tests, le test intermédiaire étant interprété comme une « intervention de test » (plutôt que comme une répétition).

Figure Spitzer (1939). Courbes de rétention

Dans ses recommandations, Spitzer a mis l’accent sur la puissance de l’effet de test, ce que j’appelle le « rappel actif » en référence à mes cartes-mémoire de 1982. Ce que j’apprécie dans son article, c’est la recommandation d’utiliser les tests pour que les élèves corrigent eux-mêmes leurs connaissances, reçoivent un retour, et ressentent ainsi le sentiment de progresser. Cela contraste avec le test moderne, plus souvent utilisé comme un fouet pour pousser les enfants à en faire davantage.

Le diagramme des intervalles de Spitzer me rappelle mon propre test auto-administré, qui n’a pas produit de résultats convaincants. Dans ce cas, les intervalles sont clairement dictés par le rythme de la vie scolaire, et non par les besoins de la mémoire.

Dans sa recherche, Spitzer a montré une approche à la Gates impitoyable envers le test et l’apprentissage, typique des premiers réformateurs de l’école, qui ont souvent fait plus de mal que de bien à force d’être trop méticuleux ! Les éducateurs qui n’exploitent pas la pulsion d’apprendre dans le processus sont condamnés à l’échec, même s’ils utilisent les meilleurs outils pour renforcer la mémoire !

Je ne peux m’empêcher de faire une remarque sur les considérations éthiques. Alors que nous massacrons des millions d’animaux au nom de la science, nous manquons peut-être de remarquer que cette recherche, malgré toute la bonne volonté qui l’anime, a mobilisé le travail forcé de plus de 3 000 participants sans consentement véritable. Ce qui est excellent pour la recherche sur la mémoire n’a pas besoin d’être excellent pour l’apprentissage individuel. À l’ère de Google, j’ai trouvé les textes de test utilisés par Spitzer plutôt rébarbatifs. Malgré tout l’effort déployé pour sélectionner le sujet et la formulation, je considérerais la lecture imposée comme une atteinte à ma liberté. Ces matériaux étaient peut-être bien meilleurs que la moyenne scolaire, mais la scolarité restera toujours affaire de production de masse, et moins de liberté créative.

Lire sur la biologie des bananiers pourrait plaire à un jardinier ou à un biologiste, ce que je prétends être. Mais pourquoi les enfants devraient-ils lire sur les bananes si leur intérêt du moment était la Grande Dépression, le Dust Bowl, l’Allemagne nazie ou le baseball ?

L’école est le moment où l’on arrête d’apprendre pour commencer à bourrer. C’est le moment où l’on perd le goût d’apprendre. Ajouter la répétition espacée à ce cocktail coercitif ne pourrait qu’aggraver les choses.

Expérience de Wozniak (1985)

Avant d’ avoir réussi à calculer les intervalles optimaux pour la révision de pages de vocabulaire anglais, j’ai conçu une expérience qui aurait pu m’orienter sur de mauvaises pistes. L’expérience visait à démontrer la valeur d’une augmentation progressive des intervalles de révision. Au lieu de cela, elle a montré qu’une révision également espacée pouvait s’avérer supérieure.

Les expériences scientifiques ne doivent pas être considérées comme « ratées » simplement parce qu’elles produisent des résultats inattendus. Dans ce cas cependant, les résultats inattendus provenaient d’un mauvais protocole et ont pu créer une confusion qui a freiné les progrès ultérieurs. Encore aujourd’hui, les chercheurs parlent de « résultats mitigés » en matière de répétition espacée, à cause d’un protocole erroné, voire d’une simple confusion terminologique.

Heureusement, mes intuitions sur la mémoire en 1985 étaient suffisamment solides, et il était assez évident qu’avec une accélération rapide de l’allongement des intervalles, l’ oubli risquait de submerger la consolidation. Mon calendrier progressif n’était simplement pas optimal. J’aurais certainement conçu un meilleur suivi. Surtout, je voulais continuer à apprendre avec succès. Je doute que j’aurais abandonné sans avoir trouvé une bonne solution.

L’expérience montre qu’il ne suffit pas d’avoir une bonne intuition sur ce que sont les intervalles optimaux. Ces intervalles doivent réellement être calculés.

Avertissement d’archive :  Pourquoi utiliser des archives littérales ?

Ce texte fait partie de : «  Optimisation de l’apprentissage » par Piotr Wozniak (1990)

Au début de 1985, j’ai conçu deux expériences qui ont par la suite révolutionné ma méthode d’apprentissage et abouti à la formulation de la méthode SuperMemo.

La première expérience illustre bien comment une idée mal conçue peut néanmoins produire des conclusions précieuses (la seconde est décrite ici). C’est une intuition courante que, à mesure des répétitions successives, les connaissances devraient devenir progressivement plus durables et exiger une révision moins fréquente. Ainsi, des répétitions séparées par des intervalles croissants devraient être plus efficaces que celles dont les intervalles restent toujours identiques. Cette croyance s’est révélée fausse. Voyons une expérience qui le démontre :

Expérience sur l’influence de différents schémas d’espacement des répétitions sur l’effet des répétitions sur la rétention des connaissances (31 janvier 1985 – 2 août 1986)

1. Les connaissances mémorisées comprenaient 195 éléments répartis en trois groupes égaux : A, B et C.
2. Chaque élément avait la forme suivante : Question : verbe irrégulier anglaisRéponse : formes du présent simple, du prétérit et du participe passé du verbe en question
3. Tous les éléments d’un groupe donné ont été mémorisés en une seule séance, en les répétant jusqu’à ce qu’ils soient tous connus (groupe A – 31 janvier, B – 2 février, C – 3 février).
4. Deux dates de contrôle final ont été établies : les 6-7 décembre 1985 et les 1er-2 août 1986, au cours desquelles le niveau de rétention de tous les groupes a été mesuré en même temps (pour chaque élément, la précision du rappel a été évaluée sur une échelle à quatre notes).
5. Avant les dates de contrôle, tous les groupes A, B et C ont subi 6 répétitions indépendantes selon les intervalles suivants (exprimés en jours) :

L’objectif de l’expérience était de prouver que des intervalles croissants sont les plus favorables à la consolidation de la mémoire (groupe B), par opposition à des intervalles régulièrement répartis (groupe A) ou concentrés dans le temps (groupe C). Les résultats de l’expérience sont présentés à la Fig. 3.1 :

Les résultats du second contrôle n’apparaissent pas sur le graphique pour la raison prosaïque que les études à l’université technique [débutées en octobre 1985] exigeaient une maîtrise parfaite des verbes irréguliers ; une nouvelle mesure était donc inutile. Comme on peut le voir dans la Fig. 3.1 ci-dessus, l’expérience a donné des résultats inattendus, prouvant que des intervalles croissants entre répétitions ne sont pas nécessairement meilleurs que des intervalles de longueur constante. Heureusement, bien avant de connaître les résultats de l’expérience, je soupçonnais qu’ il devait exister des intervalles optimaux entre répétitions. Le principe consistant à utiliser de tels intervalles dans le processus d’apprentissage sera plus tard désigné sous le nom de principe d’espacement optimal des répétitions.

En rédigeant l’ histoire de la répétition espacée, j’ai retrouvé les graphiques originaux dans mes archives. Il est assez évident que la pratique massée n’est pas une bonne approche :

Pourquoi l’idée de la répétition espacée a-t-elle fini par triompher ?

La répétition espacée est intuitive. Après réflexion, elle en devient même évidente. Pourquoi n’avons-nous pas trouvé de solutions plus tôt ? SuperMemo sur papier aurait été réalisable dès que l’humanité a inventé le papier. Cependant, dans l’Antiquité, le volume de connaissances vitales était suffisamment restreint pour que le cerveau s’en accommode facilement grâce aux méthodes d’apprentissage naturel. En travaillant aux champs, le paysan acquiert rapidement toute l’expertise nécessaire, qui lui permet d’exceller aussi longtemps que sa santé le lui permet.

Les choses ont commencé à changer avec l’arrivée de l’imprimerie au XVe siècle. Les connaissances ont commencé à proliférer et ont aussi acquis des moyens de se perpétuer efficacement. Newton pendant les années de peste pourrait être un exemple intéressant d’individu qui aurait théoriquement pu tirer profit de la répétition espacée. Cependant, la collection de livres de Newton était limitée, et les problèmes à réfléchir et à résoudre étaient si nombreux qu’on l’imagine mal se soucier de sa mémoire défaillante. Tout ce dont il avait besoin, c’était de prendre des notes.

Au cours des deux siècles suivants, les réserves de connaissances disponibles n’ont cessé de croître, et l’appétit naturel de l’homme pour la mémorisation a peut-être augmenté en parallèle. Les recherches d’Ebbinghaus dans les années 1880 illustrent un intérêt continu pour le fonctionnement de la mémoire. Pourtant, encore aujourd’hui, la plupart des scientifiques sont rarement gênés par leurs propres oublis. Prendre des notes et Google suffisent à satisfaire la plupart de leurs besoins. Lorsque Vannevar Bush a conçu le dispositif Memex dans les années 1930, il y voyait une augmentation de la mémoire. Cependant, même si le Memex peut être vu comme un lointain cousin de la lecture incrémentale ou de la créativité neuronale, toutes ses connaissances, comme dans Google, vivaient principalement en dehors du cerveau humain. Ma propre quête me rappelle celle de V. Bush, sauf que je veux voir toutes ces connaissances laisser une empreinte directe sur la créativité humaine (voir :  créativité neuronale).

Pourquoi étais-je particulièrement gêné par l’oubli ? Il existe beaucoup d’enfants qui aiment se faire remarquer à l’école. Quand mon frère m’a montré comment distinguer les aiguilles d’un épicéa de celles d’un sapin, en biologie au CE2, j’étais impatient de montrer que je savais plus de choses que la moyenne des enfants. Cet empressement fut rapidement étouffé par la scolarité, mais quelques traces ont survécu. Quand nous avons commencé la chimie en cinquième, j’étais fier de pouvoir réciter des noms complexes comme l’adénosine triphosphate ou l’acide désoxyribonucléique. Je cherchais même des noms de chimie difficiles à retenir pour impressionner mon entourage. J’ai mémorisé les détails de l’anatomie d’un poisson sans mâchoire. Là encore, j’essayais d’impressionner à l’école, mais personne n’était intéressé.

Lorsque je me suis approfondi en zoologie, en CM2, une sorte de TOC informationnel s’est manifesté. Je voulais connaître tous les animaux du zoo de Poznan, leur habitat, et même leur taxonomie et leurs noms latins. J’ai obtenu de superbes livres avec des photographies de tous les animaux, et les connaître me semblait une entreprise passionnante.

En 1974, je me suis intéressé à la boxe, au football et au sport en général. J’avais l’habitude de visiter le dépôt de vieux papiers de notre école pour y dénicher des journaux sportifs. Mon camarade Robert m’avait demandé de collectionner des photos de femmes nues. J’ai obéi. Ma puberté était tardive et cela ne m’intéressait pas. Quand la pile de photos s’est renversée à la maison, j’ai expliqué à ma mère : «  ce n’est pas pour moi ! ». Elle a hoché la tête avec compassion, un sourire en coin. Pendant ce temps, j’utilisais un fer à repasser pour lisser les plis de ma collection recyclée de journaux sportifs. Je les empilais soigneusement et les archivais par date. La pile a fini par remplir plusieurs étagères de bibliothèque dans ma chambre. Cette propreté obsessionnelle aurait pu inquiéter n’importe quel parent, mais ma mère était tolérante. J’étais libre de suivre mes passions, même si elles paraissaient extravagantes. Je ne doute pas que la liberté soit l’un des ingrédients essentiels d’un développement sain. Beaucoup d’enfants ne manifestent-ils pas des symptômes similaires avec la collection de timbres, de cartes postales ou de cartes de football ?

Une première pulsion vers la lecture incrémentale s’est manifestée quelque part entre 10 et 12 ans. J’ai commencé à prendre des notes sur les chevaux en suivant les renvois dans une encyclopédie papier. C’était amusant de commencer par une seule entrée, en espérant écrire un petit livret sur les chevaux en suivant simplement les liens. En seconde du secondaire (à 12 ans), j’ai fait un exercice similaire avec une encyclopédie des mammifères. Il y avait un besoin intérieur de codifier toutes les informations sur certains sujets de biologie. J’ai décidé d’écrire un livre de la taille d’une encyclopédie sur le monde vivant. J’ai utilisé une machine à écrire au travail de ma mère, et mes propres illustrations foisonnantes, pour raconter l’histoire de l’évolution. Je ne l’ai jamais terminé. L’inutilité de cet exercice devait être évidente. Cela ne m’a jamais gêné l’esprit. L’effort était agréable et addictif.

J’ai montré une nature tout aussi « informivore » lorsque j’ai commencé à étudier la zoologie, la chimie, la biologie puis la biochimie pendant les vacances d’été de 1977 à 1979 (de 13 à 15 ans). Ce fut le véritable point de départ de mon besoin croissant de mémoriser. Je produisais des livres écrits en calligraphie et méticuleusement illustrés avec mes nouvelles connaissances. Cependant, après un certain temps, ces connaissances tendaient à s’évaporer. Cette futilité a fini par me tourmenter doucement. À quoi bon écrire des livres s’ils se transforment bientôt en la même matière morte que tous les autres livres sur l’étagère ?

Vers 1981-1982 (entre 19 et 20 ans), j’ai commencé à consigner mes connaissances sous forme de questions et de réponses pour des tests de rappel actif. Je savais que c’était la seule façon de préserver durablement les choses en mémoire. Il va sans dire qu’après un certain temps, la révision chaotique n’apportait pas non plus une pleine satisfaction. À ce stade, j’étais manifestement très avide de connaissances. Je voulais me souvenir. Des intuitions simples ont conduit à des expériences simples, puis à un simple SuperMemo pour DOS. J’étais animé par des applications pratiques qui combinaient recherche et plaisir d’apprendre.

À partir de ce moment, mon chemin est devenu déterministe. J’aimais trop apprendre pour abandonner SuperMemo dans les moments difficiles. Mon amour de l’apprentissage était facilement étouffé à l’école ou lorsque je dirigeais une entreprise. Cependant, une fois que j’ai décidé de travailler depuis la maison (1997), une boucle de rétroaction positive s’est installée entre l’apprentissage, l’amour de l’apprentissage, et les progrès de SuperMemo. Comme c’est aussi devenu ma façon de gagner ma vie, cette boucle est désormais pour toujours. Seule la maladie ou la mort pourrait rompre ce cycle. Cette partie de la formule du progrès est facile à comprendre.

Que pourraient faire les parents pour favoriser des passions similaires chez leurs enfants ? Je pense que deux ingrédients entrent en jeu : l’inspiration et la liberté. Si l’inspiration est utile, la liberté est essentielle. Aujourd’hui, on trouve de l’inspiration partout. YouTube y joue un rôle immense là où les humains ne sont pas à la hauteur. Partout dans le monde, c’est l’ingrédient liberté qui manque le plus. Les enfants sont asservis par la scolarité. Ils sont aussi asservis par des parents autoritaires. On m’a souvent dit que certains de mes comportements excentriques étaient un effet secondaire d’avoir grandi sans père. Cela pourrait être vrai. Cependant, pour compenser, j’ai eu trois parents. Ma mère et deux aînés : un frère inspirant et une sœur sans enfant qui a déversé tout son amour sur le petit garnement que j’étais. Je me risque à affirmer que je suis venu au monde avec un capital raisonnable, pas franchement au-dessus de la moyenne. Je me suis souvent retrouvé en queue de classe. Rarement en tête. J’ai des dizaines d’exemples où j’ai transformé des compétences modestes, ou une pincée de talent, en excellence dans un domaine créatif étroit. La liberté et la rage de maîtriser ont toujours été les ingrédients clés. Quand j’élevais des dizaines d’animaux ou collectionnais des restes d’animaux morts, ma famille se demandait peut-être : «  pourquoi cet enfant ne va-t-il pas à l’église à la place ? ». Ma mère me protégeait de ces influences et de ces inquiétudes. Je pouvais faire les choses à ma façon.

Mon développement a donc été principalement stimulé par l’impact de la liberté. La liberté aide la pulsion d’apprendre à s’épanouir, et cette pulsion possède des pouvoirs auto-amplificateurs. Cela m’a conduit à des obsessions qui me permettent aujourd’hui de me prévaloir d’être à l’origine de la répétition espacée. Les passions et les obsessions doivent être chéries. Au lieu de cela, nous avons tendance à les exterminer au nom d’une robotisation du développement. Nous fixons des repères et demandons aux enfants de sauter à travers les cerceaux. Comme si le fait d’être guidé pas à pas tout au long des études avait jamais contribué à la pensée indépendante de quiconque. Ce processus de décortication doit cesser ! L’avenir appartient à l’ apprentissage libre.

Quant à la répétition espacée, l’appétit pour résoudre le problème de l’oubli a considérablement augmenté avec l’arrivée des ordinateurs personnels. Au début des années 1990, j’entendais de plus en plus souvent des utilisateurs de SuperMemo dire qu’ils avaient envisagé une solution similaire pour eux-mêmes, mais avaient d’abord préféré chercher une application logicielle spécifique.

Ce sont les exigences de l’école qui causent aujourd’hui la plupart des frustrations chez les étudiants, mais les écoles ne sont pas un bon endroit pour la pensée créative. Les étudiants se ruent sur la répétition espacée surtout parce qu’elle leur est servie sur un plateau d’argent. Elle est prête à consommer. Très peu songent à élaborer leurs propres solutions.

Outre les libertés personnelles, certaines circonstances favorables qui ont donné à SuperMemo un bon départ furent : (1) l’université gratuite dans la Pologne communiste, (2) le soutien financier de ma famille pour l’achat d’un PC scandaleusement coûteux, (3) des écoles indulgentes qui n’empiétaient guère sur mon temps libre, etc.

Vous ne verrez pas beaucoup de jeunes de 22 à 24 ans bricoler leur propre science aux frais de l’État ou de leur famille. Il n’y a rien de mal à ce que de jeunes adultes vivent chez leurs parents s’ils poursuivent des objectifs créatifs.

La répétition espacée est née à la confluence de forces favorables : l’apprentissage libre au sein d’un système communiste, la transition du communisme vers l’économie de marché, et l’arrivée de l’informatique personnelle. Le tout a été renforcé par la liberté au sein du foyer et une dose d’obsession saine pour l’apprentissage. L’ingrédient principal de cette équation, c’est la liberté. La liberté est reproductible. Il suffit de l’accorder.

La première décennie de SuperMemo : combattre le scepticisme

Le scepticisme a entouré les débuts de SuperMemo en Pologne. Cela s’exprimait assez fidèlement dans la revue informatique polonaise Enter en 1994 (voir l’ article complet) :

SuperMemo fonctionne peut-être, mais il ne peut pas être aussi bon que ça
Si l’on est convaincu de la validité de ce qui a été dit à propos de SuperMemo, sera-t-on déjà persuadé que le programme constitue un remède parfait à une mémoire défaillante ? Peut-il vraiment tirer parti des propriétés du système nerveux et faire progresser l’apprentissage une douzaine de fois plus vite que dans des conditions normales ? Après tout, des générations d’étudiants ont essayé de trouver de meilleures méthodes d’apprentissage, et une percée comparable à SuperMemo semble hautement improbable, même pour un observateur plutôt ouvert d’esprit. Wozniak écarte l’argument de la faible probabilité comme source valable de scepticisme, et affirme avoir retrouvé plus d’une fois des preuves que des approches similaires à SuperMemo avaient déjà été tentées auparavant, avec plus ou moins de succès. De plus, il convient de noter que SuperMemo n’aurait peut-être jamais vu le jour s’il n’avait pas été mis en œuvre sous forme de programme informatique, facilement transférable entre individus. En d’autres termes, il aurait pu tomber dans l’oubli, comme les tentatives précédentes de mettre de l’ordre dans le processus d’apprentissage. Il faut se rappeler que l’algorithme squelette de SuperMemo a été formulé en 1985, et que ce n’est qu’en 1987 qu’il a connu une expansion très lente dans certains cercles scientifiques de Poznan. Autre tournant à garder en mémoire :  SuperMemo World n’aurait pas été fondé en 1991 sans la rencontre inspirante entre Wozniak et son camarade d’université, Krzysztof Biedalak, aujourd’hui vice-président de SuperMemo World. Tous deux parmi les meilleurs étudiants de l’université, Wozniak avait l’intention d’étudier les neurosciences aux États-Unis, tandis que Biedalak souhaitait faire de même en intelligence artificielle. Ce n’est que par coïncidence qu’ils se sont tous deux retrouvés plongés dans le monde de la science entrepreneuriale. Tout cela montre que, bien que les principes de SuperMemo soient extrêmement simples et aient pu être inventés indépendamment plusieurs dizaines de fois dans plusieurs dizaines de pays de la planète, SuperMemo n’est pas un produit ordinaire. Le mérite distinctif de SuperMemo World a été de mettre l’idée en pratique, d’investir un grand nombre d’heures de travail dans le développement du logiciel, et de se concentrer sur la commercialisation de l’idée auprès des clients potentiels. Sans cela, SuperMemo serait resté à jamais limité au petit cercle de ses premiers passionnés.

L’avenir est radieux

J’ai mentionné que les progrès de la répétition espacée ont été ralentis par des conjectures, un outillage pratique faible, et une confusion terminologique. Aujourd’hui, tous ces facteurs disparaissent progressivement. De nouvelles applications web se déploient, combinant big data et besoins pratiques des utilisateurs. Elles utilisent toutes la même terminologie : courbe d’oubli, effet d’espacement, et répétition espacée. L’avenir de l’apprentissage n’a jamais paru aussi radieux.