Kto wymyślił spaced repetition? O historii inteligentnych powtórek

Kto wymyślił spaced repetition

Odpowiedź na pytanie jak powstały inteligentne powtórki czy też spaced repetition, można rozpocząć od odniesienia się do starożytności. Rozważania nad pamięcią zajmowały myśli greckich filozofów. Swoje prace poświęcili jej Platon (427-347 p.n.e.) oraz jego uczeń i krytyk Arystoteles (388-322 p.n.e.). Ten ostatni zebrał swoje przemyślenia m.in. w traktacie „O pamięci i przypominaniu sobie”. Łacińskie powiedzenie repetitio mater studiorum est (pl. powtarzanie jest matką nauki) dowodzi, że już starożytni Rzymianie zdawali sobie doskonale sprawę z wpływu powtórzeń na pamiętanie, choć pewnie nie byli w stanie ująć tej relacji w liczbach.

Pierwsze badania nad pamięcią

Prawdopodobnie pierwszym naukowcem, któremu udało się zbadać i opisać procesy związane z zapominaniem w sposób charakterystyczny dla nauk ścisłych, był niemiecki psycholog Hermann Ebbinghaus. Nie wymyślił on co prawda spaced repetition, ale w latach 1879-80 i 1883-1884 wykonał dwie ponad roczne serie zaprojektowanych przez siebie eksperymentów, których wyniki opublikował w monografii „O pamięci” (oryg. Über das Gedächtnis, ang. Memory: A Contribution to Experimental Psychology). Ebbinghaus oparł swoje próby o pomysł zapamiętywania serii sztucznych sylab utworzonych ze złożenia dwóch spółgłosek rozdzielonych samogłoską, np. KAB, LEZ, GEC, itp. Bezsensowność treści miała gwarantować nowość zapamiętywanych informacji i minimalizować ryzyko, że ich powtórki nie wystąpią samoistnie. Jak pisze w swojej pracy Ebbinghaus, zapamiętywany przez niego materiał nie wywoływał żadnych skojarzeń ani emocji, pozwalał tworzyć serie dowolnej długości i nie dawał łatwych podstaw do użycia mnemotechnik.

Co istotne, Ebbinghaus nie badał, czy dana seria została zapomniana, czy nie, z góry zakładając, że nie będzie w stanie ich odtworzyć w całości. Mierzył natomiast oszczędność czasu lub ilości powtórzeń, jakie były mu potrzebne do ponownego zapamiętania (ang. relearning) takiego materiału po upływie czasu. W ramach każdego testu zapamiętywał kilka serii, z których każda składała się z kilkunastu do kilkudziesięciu sylab, odczytując je i recytując do skutku, czyli do samodzielnego odtworzenia z pamięci w całości. Mierzył przy tym liczbę przebiegów odczytu i recytowania prowadzących do pełnego zapamiętania serii oraz średni czas poświęcany na odczyt bądź recytowanie pojedynczej sylaby. Następnie porównywał czas potrzebny do zapamiętania zupełnie nowej serii z czasem potrzebnym do jej ponownego zapamiętania, w ten sposób szacując „oszczędność nauki”, która według niego przekładała się wprost na stopień pamiętania, czyli retencję danej serii.

W ramach swoich badań Ebbinghaus wykonał kilka serii eksperymentów, w których badał:

  1. liczbę przebiegów zapamiętywania potrzebną do odtworzenia z pamięci serii sylab o określonej długości (rozdział 5),
  2. wpływ liczby przebiegów przy pierwszym zapamiętywaniu (od niewystarczającej do nadmiarowej) na oszczędność ponownej nauki po 24 godzinach (rozdział 6)
  3. czas spędzany na ponowne nauczenie serii sylab (pierwsza ponowna nauka) po interwale odpowiednio: 20 minut, 1 godzina, 9 godzin oraz 1, 2, 6 i 31 dni (rozdział 7)
  4. ilość powtórzeń serii potrzebną do ponownego zapamiętania serii o różnych długościach w kolejnych 6 dniach (kolejne 6 sesji ponownej nauki) w odstępach 24-godzinnych (rozdział 8)
  5. wpływ przestawień kolejności sylab w seriach na oszczędność ich ponownej nauki (rozdział 9).

Dziś najczęściej cytowane efekty badań Ebbinghausa dotyczą jego eksperymentów opisanych w dziale 7, w których psycholog zaproponował formułę określającą, jak oszczędność ponownej nauki zależała od upływu czasu od pierwszego zapamiętania studiowanych przez niego serii sylab. Oszczędności te sięgały od 58% dla najkrótszego interwału 20 minut, poprzez 34% dla jednego dnia, do 21% dla 31 dni. Ebbinghaus uznał, że oszczędności te są miarą wielkości pamiętania na koniec każdego interwału. Bazując na wynikach eksperymentu, Ebbinghaus skonstruował matematyczną formułę, która opisywała oszczędność pierwszego douczania b, co interpretuje jako retencję, poprzez funkcję zależną od logarytmu czasu t, który upłynął od pierwszego skutecznego zapamiętania:

b = 100k/((log t)c +k),

gdzie k i c to odpowiednio dobrane wartości stałe, tak by zapewnić maksymalną zgodność z pomiarami eksperymentu. Ebbinghaus nie włączył do swojej pracy żadnych wykresów, ale jego krzywą zapominania można odtworzyć z danych tabelarycznych w jego pracy.

Krzywa zapominania

Krzywa Ebbinghausa. Źródło: SuperMemo.guru

Badania nad wpływem powtórek na naukę w XX wieku

Przez ponad 100 lat badania Ebbinghausa nie przebiły się do mainstream’u psychologii i dydaktyki. Tematem retencji pamiętania i powtórek zajmowali się nieliczni naukowcy i praktycy, których jednak warto wspomnieć. W 1932 roku Prof. C. A. Mace, brytyjski filozof i psycholog, zaproponował schemat powtórzeń oparty o interwały (odstępy) 1, 2, 4, 8 itd. dni. W 1939 roku H. F. Spitzer opublikował wyniki masowego eksperymentu, w którym zastosował różne cykle testów dla różnych grup uczniów. W latach 1960-tych i 70-tych swoje prace na temat pamięci i optymalnych cykli powtórek publikowali m.in. H. Simon oraz R. Bjork. Również w tym okresie (1967) P. Pimsleur, amerykański językoznawca i autor kursów językowych, opublikował krótki artykuł „A memory schedule”, w którym być może po raz pierwszy pojawia się charakterystyczny piłowy wykres prawdopodobieństwa pamiętania. Pimsleur, powołując się na własne doświadczenie oraz kilka innych publikacji, stawia hipotezę, że „idealny” cykl nauki obejmuje powtórki w interwałach rosnących wykładniczo, czyli np. 5 sekund, 52 = 25 sekund, 53 = 125 sekund itd. W 1972 roku Sebastian Leitner, niemiecki dziennikarz i popularyzator nauki, opublikował praktyczny pomysł systemu organizującego powtórki informacji zapisanych na fiszkach. Pomysł polega na przesuwaniu fiszek pomiędzy kolejnymi pudełkami. Fiszki w pudełku pierwszym powtarzane są codziennie, w kolejnych coraz rzadziej. Fiszki powtórzone z sukcesem lądują w kolejnym pudełku, a niepamiętane w zależności od wersji systemu są cofane do poprzedniego lub do pierwszego pudełka.

Krzywa zapominania

System Leitnera. Źródło: Wikipedia

Wadą prezentowanych dotąd cykli była ich sztywność, czyli brak możliwości dynamicznego dostosowania do charakteru zapamiętywanych informacji. Zarówno Ebbinghaus jak Pimsleur sami zauważają, że prezentowane przez nich wyniki są charakterystyczne dla danego typu lub trudności zapamiętywanych danych. Formuła Ebbinghausa dotyczyła charakterystyki pamiętania podczas próby pierwszej powtórki serii 13 bezsensownych sylab. W rozdziale 8 swojej pracy pisze on, że podobny wynik mógłby być osiągnięty tylko dla serii o zbliżonej długości. Pimsleur, który koncentrował się na zapamiętywaniu słownictwa, zauważa, że byłoby (sic) głupotą oczekiwać, że ten sam cykl powtórzeń może być zastosowany dla wszystkich słów. Jak pisze, krótkie, często występujące, spokrewnione słowo (np. fr. le garage) może wymagać małej liczby powtórek, podczas gdy długie, rzadkie i niespokrewnione (np. fr. ahurissement) — bardzo wielu. Ponadto, jak już wiemy, słowo, które z punktu widzenia jednej osoby czy języka rodzimego będzie łatwe czy spokrewnione, wcale nie będzie takim dla innej osoby posługującej się innymi językami. Zatem niezależnie od tego, jak dokładne były opisywane tu obserwacje czy intuicje, dotyczyły one konkretnych przypadków danych bez możliwości optymalnego zastosowania dla innych. Do przezwyciężenia tego ograniczenia potrzebne było zastosowanie analizy komputerowej dużej ilości różnorodnych danych z nauki na przestrzeni dłuższego okresu czasu. W latach 1980-tych Piotr Woźniak (który wymyślił spaced repetition i stworzył metodę SuperMemo), szukając metod umożliwiających mu skuteczną naukę dużych ilości danych, doszedł do wniosku, że jeżeli odkryje właściwy schemat pamiętania, może użyć komputera do optymalnego modelowania sobie i innym użytkownikom indywidualnie nauki każdej informacji z osobna.

Jak powstały inteligentne powtórki?

W 1982 roku Woźniak, wtedy student biologii molekularnej, był sfrustrowany tym, jak wiele informacji musiał przyswajać w ramach studiów, a jak niewiele z nich był w stanie pamiętać po paru miesiącach od egzaminu. Zaczął notować i aktywnie przeglądać informacje potrzebne mu do nauki biochemii i angielskiego. Były to tysiące par pytań i odpowiedzi. Zapisywał je na kartkach, które przeglądał nieregularnie w miarę dostępności czasu, zawsze notując datę powtórki, oznaczając informacje niepamiętane i zapisując ich liczbę. Na tym materiale odkrywał dla siebie i stosował pierwsze zasady skutecznego formułowania wiedzy. Należały do nich m.in. zasada testowania swojej wiedzy poprzez aktywne przypomnienia (ang. active recall), w odróżnieniu od np. biernego czytania, czy zasada minimalizowania informacji (ang. minimum information principle), tak aby w pojedynczym pytaniu skupić się wyłącznie na jednej konkretnej informacji, którą chciał opanować. Z czasem zorientował się, że kolejne powtórki wzmacniają pamiętanie poszczególnych informacji, a każda z nich ma własny „cykl życia”. Na podstawie analizy luźnych danych z tych powtórek Woźniak wykreślił swoją pierwszą krzywą zapominania.

Krzywa zapominania
Krzywa zapominania

Notatki z eksperymentów Woźniaka w latach 1982-1984

W 1985 roku Woźniak, nie dysponując jeszcze komputerem, wykonał serię eksperymentów z zapamiętywaniem zestawów słownictwa języka angielskiego, w których mierzył liczbę błędów podczas kolejnych powtórek przy użyciu różnych interwałów. Badał najdłuższy interwał dla dopuszczalnej liczby błędów, a następnie, przyjmując taki interwał jako stały składnik cyklu, mierzył kolejny itd. Doprowadziło go to do określenia cyklu rosnących okresów pomiędzy powtórkami (1, 7, 16, 35 dni, kolejne x2), które wykorzystał do nauki swojej bazy pytań biologii człowieka oraz sformułowania metody SuperMemo na papierze. Dziś może się to wydawać szokujące, ale w tym czasie Woźniak nie miał pojęcia o publikacjach Ebbinghausa, Spitzera czy Bjorka. Internet nie istniał, dotarcie takich publikacji wymagało żmudnego przeszukiwania zasobów bibliotek. Woźniak był jednak przede wszystkim skupiony na swojej własnej nauce i wyciąganiu wniosków, które mogły ją uczynić bardziej skuteczną. Był przekonany, że ktoś przed nim musiał już dokładniej zmierzyć najlepsze interwały między powtórkami, ale uznał, że wykonanie własnych eksperymentów będzie ciekawsze i szybsze niż szukanie w literaturze naukowej. Jak sam przyznaje, dopiero w latach 1986-87 spędził sporo czasu w bibliotece uniwersyteckiej, gdzie szukał dobrych badań na temat optymalizacji powtórek. Nie znalazł jednak nic takiego, co poszerzyłoby jego własne doświadczenia.

Jesienią 1985 roku Woźniak rozpoczął studia na kierunku informatyka, a kilka miesięcy później kupił swój pierwszy komputer osobisty ZX Spectrum. W ZX dane za każdym razem musiały być wgrywane do pamięci komputera z taśmy magnetofonowej, co skutecznie ograniczało jego możliwości, ale nie przeszkodziło to w wykonaniu licznych symulacji i analiz. W tym czasie Woźniak doszedł m.in. do wniosku, że przyrost wiedzy z zastosowaniem jego metody jest prawie liniowy, czyli nie zwalnia ze wzrastającą ilością pamiętanego materiału, a najszybsze tempo przyswajania nowych informacji mógłby osiągnąć, pozwalając, by ilość informacji zapomnianych podczas powtórek sięgnęła 20-30%.

W 1987 roku dzięki pomocy rodziny Woźniakowi udało się kupić pierwszy komputer typu PC wyposażony w dysk twardy, dzięki czemu po trzech miesiącach, 13 grudnia 1987, zaczęła działać pierwsza wersja programu (aplikacji) SuperMemo. Woźniak użył jej do zapamiętania ponad 10 tysięcy informacji w ciągu pierwszego roku, budując w ten sposób początek ogromnej bazy danych, na której mógł prowadzić swoje dalsze badania. Pierwsza aplikacja wykorzystywała zmodyfikowaną wersję algorytmu SuperMemo (zwaną SM-2), która każdej informacji z osobna przypisywała dynamicznie obliczany współczynnik trudności, wpływający indywidualnie na długość interwałów. Informacje zapomniane rozpoczynały swój cykl powtórek od nowa, zachowując jednak aktualną ocenę trudności. W 1998 r. algorytm SM-2 został udostępniony publicznie na stronach supermemo.com, do dziś stanowiąc inspirację dla wielu innych aplikacji implementujących inteligentne powtórki. Od wielu lat korzysta z niego m.in. Anki, przez pewien czas był wykorzystywany w Quizlecie.

Krzywa zapominania

Pierwsza aplikacja SuperMemo

Woźniak jednak tworzył kolejne wersje algorytmu, doskonaląc jego dokładność oraz adaptowalność do indywidualnej charakterystyki użytkownika i materiału, który zapamiętuje. W odróżnieniu od SM-2 kolejne wersje bazowały m.in. na pomiarze faktycznej retencji wiedzy użytkownika, która stanowiła informację zwrotną wpływającą na dostosowanie działania algorytmu. Pozwoliło to sterować powtórkami tak, aby osiągnąć oczekiwany poziom retencji. Standardowo wynosi on 90%, ale ponieważ algorytm jest w stanie przewidywać prawdopodobieństwo pamiętania informacji przez użytkownika w dowolnym momencie, można ten poziom ustalić na np. 80% albo 95%, co przekłada się na zmniejszenie lub zwiększenie intensywności powtórek. Równolegle Woźniak publikował teoretyczne podstawy swoich badań w formie pracy magisterskiej, doktorskiej, artykułów oraz bieżących publikacji na stronach SuperMemo.com. Dziś komplet jego publikacji można znaleźć na stronie SuperMemo Guru. Jak dotąd zwieńczeniem tych badań jest powstały w 2016 r. algorytm SM-17, w pełni oparty o teorię dwóch składników pamięci.

O ile więc, według wiedzy, którą posiadamy, Platon może być uznany za pioniera filozoficznych rozważań nad pamięcią, Ebbinghaus za pioniera matematycznego podejścia do badań nad zapominaniem, Piotra Woźniaka należy z pewnością uznać za pioniera optymalizacji powtórek (spaced repetition), czyli metody wyznaczania optymalnych przypomnień tak, aby osiągnąć zamierzony poziom retencji. Dzięki zastosowaniu komputerów jego metoda mogła zostać w aplikacjach SuperMemo zindywidualizowana do potrzeb konkretnego użytkownika.

Więcej o historii SuperMemo i spaced repetition znajdziecie w artykule “True history of spaced repetition” Piotra Woźniaka.