Bootstrap – na czym polega i kiedy warto go stosować?
Klasyczne metody statystyczne często wykorzystują teoretyczne rozkłady do wyznaczania błędów standardowych i przedziałów ufności.
W przypadku bardziej skomplikowanych statystyk takie rozwiązanie może być trudne lub opierać się na mocnych założeniach.
Jednym z alternatywnych podejść jest bootstrap.
Na czym polega bootstrap?
Załóżmy, że dysponujemy próbą 200 osób.
Losujemy z niej nową próbę 200 osób ze zwracaniem.
Oznacza to, że:
- jedna osoba może zostać wylosowana kilka razy,
- inna ani razu.
Następnie obliczamy interesującą statystykę.
Proces powtarzamy wiele razy.
Ile razy?
Przykładowo:
5000 replikacji bootstrapowych.
Otrzymujemy 5000 oszacowań analizowanego parametru.
Ich rozkład pozwala ocenić niepewność wyniku.
Co można bootstrapować?
Między innymi:
- średnią,
- medianę,
- różnicę średnich,
- korelację,
- współczynniki regresji,
- efekt pośredni w mediacji,
- niektóre miary psychometryczne,
- parametry modeli.
Bootstrapowy przedział ufności
Jednym z głównych zastosowań jest wyznaczanie CI.
Przykład:
efekt pośredni = 0,24
95% bootstrap CI: 0,11–0,39.
Jeżeli w analizie efektu pośredniego przedział nie obejmuje 0, wynik wskazuje na statystycznie wykrywalny efekt pośredni w przyjętym modelu.
Bootstrap percentylowy
Jednym z najprostszych rozwiązań jest wykorzystanie odpowiednich percentyli rozkładu bootstrapowego.
Dla 95% CI mogą to być w przybliżeniu:
2,5. i 97,5. percentyl.
BCa
Bardziej zaawansowanym rozwiązaniem jest:
BCa – bias-corrected and accelerated interval.
Metoda uwzględnia m.in. potencjalne obciążenie oraz asymetrię rozkładu estymatora.
Nie oznacza to, że BCa jest automatycznie najlepszy w każdym problemie, ale jest często wartościową metodą.
Bootstrap a normalność
Bootstrap bywa szczególnie przydatny, gdy rozkład estymatora jest trudny do opisania klasycznym wzorem.
Nie oznacza jednak:
„dane nie są normalne, więc zawsze robimy bootstrap”.
Metoda nie zwalnia z właściwego dobrania modelu do struktury danych.
Bootstrap w mediacji
Jednym z najbardziej znanych zastosowań jest analiza efektu pośredniego:
a × b.
Rozkład iloczynu współczynników może być asymetryczny.
Dlatego bootstrapowe CI jest często preferowanym sposobem oceny niepewności efektu pośredniego.
Czy bootstrap działa przy bardzo małej próbie?
Bootstrap nie jest magicznym rozwiązaniem problemu małego n.
Jeżeli próba jest bardzo mała lub niereprezentatywna, wielokrotne losowanie z tych samych kilku obserwacji nie stworzy nowych informacji.
Bootstrap odtwarza informacje dostępne w pierwotnej próbie.
Zależność obserwacji
Klasyczny bootstrap obserwacji zakłada odpowiednią strukturę niezależności.
Jeżeli dane są:
- sparowane,
- klastrowe,
- podłużne,
- szeregami czasowymi,
potrzebne mogą być odpowiednio zmodyfikowane procedury bootstrapowe.
Losowanie pojedynczych rekordów bez uwzględnienia struktury może być błędne.
Bootstrap a walidacja modelu
Bootstrap można wykorzystać także do oceny optymizmu modeli predykcyjnych.
Model jest wielokrotnie budowany na próbach bootstrapowych, a jego działanie porównywane w odpowiednich zbiorach.
Jest to ważne zastosowanie w wewnętrznej walidacji modeli.
Bootstrap a p-value
Bootstrap nie powinien być traktowany wyłącznie jako sposób na „uzyskanie istotności”.
Jego główną zaletą jest możliwość lepszego opisania:
- niepewności,
- stabilności,
- rozkładu estymatora.
Reprodukowalność
Procedury bootstrap wykorzystują losowanie.
W analizie komputerowej warto ustawić „seed” (wartość startową) generatora liczb pseudolosowych.
Dzięki temu wyniki można odtworzyć.
Jak raportować?
„Niepewność efektu pośredniego oszacowano metodą bootstrap na podstawie 5000 replikacji. Efekt pośredni wyniósł 0,24, a 95% bootstrapowy CI: 0,11–0,39.”
W metodach należy podać:
- liczbę replikacji,
- rodzaj CI,
- sposób próbkowania, jeśli jest nietypowy.
Bootstrap w SPSS
SPSS umożliwia bootstrapowanie wielu statystyk w odpowiednich procedurach.
Bootstrap jest również często stosowany w dodatkowych narzędziach do analizy mediacji i moderacji.
Nie należy jednak ograniczać interpretacji do kliknięcia opcji „Bootstrap”. Najważniejsze pozostają poprawny projekt, model i sposób próbkowania.
Najczęstsze błędy
- traktowanie bootstrapu jako lekarstwa na każdą małą próbę,
- ignorowanie zależności obserwacji,
- brak informacji o liczbie replikacji,
- niepodanie rodzaju CI,
- używanie bootstrapu wyłącznie w celu obniżenia p,
- przekonanie, że bootstrap eliminuje potrzebę właściwego modelu.
FAQ
Co to jest bootstrap?
Metoda wielokrotnego próbkowania ze zwracaniem z obserwowanej próby w celu oceny właściwości estymatora.
Ile replikacji zastosować?
Często wykorzystuje się kilka tysięcy, np. 5000, ale liczba powinna odpowiadać celowi analizy.
Czy bootstrap wymaga normalności?
Nie opiera się na prostym założeniu normalności rozkładu estymatora, ale nadal wymaga odpowiedniego modelu i schematu próbkowania.
Czy bootstrap pomaga przy mediacji?
Tak. Jest szczególnie często wykorzystywany do wyznaczania CI efektu pośredniego.
Czy bootstrap zwiększa liczebność badania?
Nie. Nie tworzy nowych niezależnych informacji.
Współpraca
Potrzebujesz bootstrapowych przedziałów ufności, analizy mediacji, regresji lub zaawansowanej analizy statystycznej?
statystyka@statystyka.org.pl – Analiza statystyczna do prac magisterskich
tel. 692 809 254
Frazy kluczowe: bootstrap, bootstrap statystyka, bootstrap confidence interval, przedział ufności, analiza statystyczna, SPSS, mediacja, regresja, statystyka do pracy mgr, testy statystyczne, analiza danych