Prace dyplomowe · Ankieta i pilotaż

Badanie pilotażowe: po co je robić, ile osób zbadać i co sprawdzić

Pilotaż to tani sposób, żeby wykryć błędy w ankiecie, zanim zbierzesz dane. Pokazujemy, czym różni się od pretestu i badania wykonalności, ile osób zbadać, co sprawdzić w danych i dlaczego nie liczyć analizy mocy z efektu z pilotażu.

Strona główna / Blog / Badanie pilotażowe
W skrócie: Badanie pilotażowe to próbna wersja badania, która sprawdza wykonalność procedury i działanie narzędzia, a nie hipotezy. W ankiecie sprawdź zrozumiałość pytań, czas, działanie techniczne, rozkłady, braki i spójność skal. Do pretestu kwestionariusza rekomenduje się ok. 30 osób, a w porównaniu grup 12 osób na grupę lub więcej. Nie planuj liczebności badania głównego na podstawie d z pilotażu – w symulacji przy 12 osobach na grupę 95% oszacowań prawdziwego d = 0.30 mieściło się między −0.53 a 1.19.

Co to jest badanie pilotażowe i po co je robić?

Badanie pilotażowe (ang. pilot study) to próbna, zmniejszona wersja badania, którą przeprowadzasz przed badaniem właściwym, żeby sprawdzić, czy narzędzie i procedura działają tak, jak je zaplanowano. Van Teijlingen i Hundley (2001) zwracają uwagę, że termin ma dwa znaczenia: może oznaczać pomniejszoną wersję całego badania (studium wykonalności) albo pretest konkretnego narzędzia, np. kwestionariusza. W pracy dyplomowej z psychologii najczęściej chodzi o to drugie – ankietę sprawdzasz na kilkudziesięciu osobach, zanim roześlesz ją do kilkuset.

Pilotaż odpowiada na pytanie „czy da się to zrobić i czy narzędzie działa?”, a nie „czy moja hipoteza jest prawdziwa?”. Leon i in. (2011) podkreślają, że badanie pilotażowe służy ocenie wykonalności – rekrutacji, utrzymania uczestników w badaniu, procedur pomiaru i przebiegu – a nie testowaniu hipotez. To rozróżnienie ma praktyczną konsekwencję, do której wrócimy przy analizie mocy: wynik pilotażu nie mówi wiarygodnie, jak duży jest efekt.

Po co ten wysiłek? Błąd wykryty na 30 osobach kosztuje godzinę poprawek. Ten sam błąd wykryty po zebraniu 300 ankiet może przekreślić całe badanie: nieprzekodowana pozycja odwrócona, niedziałający filtr albo pytanie, które połowa osób rozumie inaczej, niż zamierzał autor. Pilotaż zwiększa szansę powodzenia badania głównego, choć jej nie gwarantuje (van Teijlingen i Hundley, 2001). Krótką definicję pojęcia znajdziesz w haśle badanie pilotażowe, a miejsce pilotażu w całym procesie przygotowania narzędzia opisujemy w poradniku jak zrobić ankietę do pracy dyplomowej.

Pretest, pilotaż i badanie wykonalności – czym się różnią?

Te nazwy bywają używane zamiennie, ale każda forma odpowiada na inne pytanie. Thabane i in. (2010) grupują powody prowadzenia pilotażu w cztery obszary: proces (np. rekrutacja, odsetek odmów i rezygnacji), zasoby (np. czas potrzebny na wypełnienie formularzy), zarządzanie (np. problemy z wprowadzaniem danych) i kwestie naukowe (np. zmienność wyników). W badaniu ankietowym przekłada się to na cztery formy sprawdzania narzędzia.

Formy sprawdzania narzędzia i procedury przed badaniem właściwym
FormaGłówne pytanieCo robiszKiedy w pracy dyplomowej
Wywiad poznawczy (pretest poznawczy)Czy ludzie rozumieją pytania tak, jak zamierzał autor?Rozmowa jeden na jeden: głośne myślenie i pytania sondująceWłasne pytania, nowa skala, tłumaczone pozycje
Pretest technicznyCzy ankieta działa?Przejście wszystkich ścieżek i filtrów na komputerze i telefonieKażda ankieta internetowa
Pilotaż ankietyJak całe narzędzie działa w małej próbie?Wersja internetowa na osobach z populacji docelowej; analiza czasu, rozkładów, braków i spójności skalWiększość prac z ankietą
Badanie wykonalności (feasibility study)Czy da się przeprowadzić całe badanie?Próbna rekrutacja, procedura, interwencja i pomiar końcowyEksperymenty, interwencje, badania podłużne

Dla randomizowanych badań pilotażowych i badań wykonalności powstało rozszerzenie wytycznych CONSORT: 26-punktowa lista kontrolna, która wymaga m.in. opisania, jak identyfikowano uczestników i uzyskiwano zgodę, oraz podania wcześniej określonych kryteriów decyzji, czy i jak przejść do badania właściwego (Eldridge i in., 2016). Nawet jeśli robisz zwykłą ankietę, a nie eksperyment, przejmij ten pomysł: zanim zaczniesz pilotaż, zapisz, jaki wynik oznacza „idziemy dalej”, a jaki „poprawiamy” – np. „jeśli mediana czasu przekroczy 15 minut, skracamy ankietę”.

Co sprawdzić w pilotażu ankiety?

Van Teijlingen i Hundley (2001) wymieniają wiele funkcji pilotażu, m.in. sprawdzenie narzędzi, protokołu, rekrutacji, logistyki i planowanej analizy oraz oszacowanie zmienności wyników. W ankiecie do pracy dyplomowej przekłada się to na osiem obszarów.

Co sprawdzić w pilotażu ankiety: obszary, sygnały ostrzegawcze i sposób sprawdzenia
ObszarSygnał ostrzegawczyJak to sprawdzić
1. Zrozumiałość pytańRóżne interpretacje tego samego pytania, prośby o wyjaśnienie, komentarze „nie wiem, co zaznaczyć”Wywiady poznawcze; pytanie otwarte „Czy coś było niejasne?” na końcu pilotażu
2. Czas wypełnianiaMediana wyraźnie dłuższa, niż zakładano; porzucenia w połowie ankietyZnaczniki czasu z platformy; liczba osób, które zaczęły i skończyły
3. Działanie techniczneKtoś nie może przejść dalej, filtr prowadzi do złych pytań, tabela jest nieczytelna na telefoniePrzejście każdej ścieżki na kilku urządzeniach; próbny eksport danych
4. Rozkłady odpowiedziWiększość osób wybiera skrajną odpowiedź (efekt sufitu lub podłogi)Odsetek odpowiedzi minimalnych i maksymalnych w każdej pozycji
5. Braki danychW jednym pytaniu wyraźnie więcej pominięć niż w pozostałychOdsetek braków danych w każdej pozycji
6. Spójność skalKorelacja pozycja–reszta bliska zera lub ujemnaKorelacje pozycja–reszta i alfa Cronbacha z przedziałem ufności
7. Procedura i rekrutacjaMało osób kończy ankietę, pojawiają się pytania o anonimowość, zaproszenie jest niejasneOdsetek ukończeń; komentarze uczestników; test treści zaproszenia
8. Plan analizyBrakuje zmiennej potrzebnej do hipotezy, odpowiedzi są źle zakodowanePróbny eksport i uruchomienie skryptu analizy na danych z pilotażu

Najczęściej pomijany jest punkt ósmy. Tymczasem właśnie próbne uruchomienie analizy pokazuje, że np. pozycja odwrócona nie została przekodowana, pytanie wielokrotnego wyboru wyeksportowało się do jednej kolumny, a zmienna potrzebna do moderacji w ogóle nie trafiła do ankiety. Jak przygotować plik do analizy, opisujemy w poradniku o eksporcie danych z Google Forms i LimeSurvey. Sprawdź też, czy działają pytania kontrolne i czy w danych nie widać wzorów nieuważnego odpowiadania.

Część problemów strukturalnych – niedziałający filtr, odwrócony klucz, pytanie bez zmienności – da się wychwycić jeszcze przed pilotażem z ludźmi, np. w pilotażu z syntetycznymi respondentami. Takie dane nie zastępują jednak prawdziwych uczestników: syntetyczni respondenci nie odtwarzają w pełni tego, jak konkretne osoby rozumieją pytania i reagują na nie (więcej w tekście o syntetycznych respondentach).

Ile osób do badania pilotażowego?

Nie ma jednej liczby – liczebność zależy od tego, co pilotaż ma sprawdzić. Hertzog (2008) pokazuje, że ogólne reguły typu „10% liczebności badania głównego” mogą nie wystarczyć, i na podstawie przedziałów ufności ocenia, czy próby od 10 do 40 osób na grupę dają dostatecznie precyzyjne oszacowania dla różnych celów pilotażu. Rekomendacje z literatury zebraliśmy w tabeli.

Rekomendowana liczebność badania pilotażowego w zależności od celu
Cel pilotażuRekomendacjaŹródło
Wywiady poznawcze – czy pytania są zrozumiałeRundy po ok. 10 wywiadów; w małych projektach nawet 5–6 wywiadów daje użyteczne informacje, a łącznie zwykle bada się 10–30 osóbWillis i Artino (2013)
Pretest kwestionariusza – wykrycie problemów z pozycjamiDomyślnie 30 osóbPerneger i in. (2015)
Pilotaż z porównaniem grup, gdy brak wcześniejszych danych – oszacowanie średniej i wariancji12 osób na grupęJulious (2005)
Pilotaż z porównaniem grup – zależnie od tego, co trzeba oszacować i z jaką precyzją10–40 osób na grupęHertzog (2008)

Dlaczego w preteście kwestionariusza 30, a nie 5 osób? Perneger i in. (2015) policzyli, że jeśli problem z pozycją dotyczy 5% respondentów, pretest na 10 osobach ma tylko 40% szans, by ujawniła go choć jedna osoba (na 20 osobach – 64%). Typowe małe pretesty (5–15 osób) mogą więc przeoczyć nawet częste problemy. Ten rachunek łatwo powtórzyć samodzielnie:

P(problem ujawni się choć raz) = 1 − (1 − f)n

gdzie f to odsetek osób, u których problem występuje, a n – liczba osób w preteście. Rysunek 1 pokazuje tę zależność dla problemów dotyczących 5%, 10% i 20% respondentów.

Krzywe szansy wykrycia problemu z pytaniem w zależności od liczby osób w preteście: przy problemie dotyczącym 5% osób szansa wynosi 40.1% dla 10 osób, 64.2% dla 20 i 78.5% dla 30, a przy problemie dotyczącym 20% osób 80% szans daje już 8 osób
Rysunek 1. Szansa, że problem z pytaniem ujawni się u co najmniej jednej osoby w preteście, w zależności od liczby osób i od tego, jak często problem występuje (u 5%, 10% lub 20% respondentów). Szary pas – typowy mały pretest (5–15 osób), linia przerywana – 80% szans. Obliczenia: R, wzór 1 − (1 − f)n.

Gdy problem dotyczy co piątej osoby, 8 uczestników daje 80% szans na jego zauważenie. Gdy dotyczy co dwudziestej osoby, potrzeba 32 uczestników dla 80% szans i 59 dla 95% szans. Ten rachunek jest optymistyczny: zakłada, że każda osoba, której problem dotyczy, ujawni go, a Ty go zauważysz. W praktyce szanse są mniejsze – to kolejny argument za pilotażem na co najmniej kilkudziesięciu osobach i za wywiadami poznawczymi, w których o rozumienie pytań pytasz wprost.

Trzy zasady doboru osób do pilotażu:

  • Badaj osoby z populacji docelowej, a nie znajomych z seminarium, którzy znają Twoje hipotezy. Jeśli badasz studentów pierwszego roku, pilotaż też zrób na studentach pierwszego roku.
  • Zadbaj o różnorodność: osoby w różnym wieku, z różnych kierunków, wypełniające ankietę na telefonie i na komputerze. Problemy często dotyczą tylko części respondentów.
  • Nie włączaj uczestników pilotażu do badania głównego. Willis i Artino (2013) zalecają, by ani osób z wywiadów poznawczych, ani ich danych nie wykorzystywać ponownie w badaniu właściwym, a van Teijlingen i Hundley (2001) zwracają uwagę, że osoby, które znają już narzędzie, mogą odpowiadać inaczej.

Dlaczego nie liczyć analizy mocy z wyniku pilotażu?

To częsty błąd w planowaniu liczebności. Robisz pilotaż na 24 osobach (12 na grupę), liczysz d Cohena i wpisujesz go do G*Power, żeby ustalić, ile osób potrzebujesz w badaniu głównym. Leon i in. (2011) odradzają to wprost: ze względu na nieprecyzyjność małych prób pilotaż nie dostarcza sensownego oszacowania wielkości efektu do planowania kolejnego badania. Podobnie ostrzegają Thabane i in. (2010): oszacowania efektu z małych prób bywają nierealistyczne lub obciążone, więc mogą wprowadzić w błąd przy obliczaniu liczebności.

Sprawdziliśmy to w symulacji. Założyliśmy, że w populacji różnica między dwiema grupami (np. studentami po treningu uważności i bez niego) wynosi d = 0.30. Wylosowaliśmy 10 000 pilotaży po 12 osób na grupę i 10 000 pilotaży po 50 osób na grupę i w każdym policzyliśmy d Cohena. Rysunek 2 pokazuje, jakie wartości mógłby zobaczyć badacz w swoim jedynym pilotażu.

Dwa histogramy d Cohena z 10 000 pilotaży przy prawdziwym d = 0.30: przy 12 osobach na grupę 95% oszacowań mieści się między −0.53 a 1.19, a 23.0% pilotaży daje d ≤ 0; przy 50 osobach na grupę przedział zwęża się do od −0.09 do 0.71
Rysunek 2. Rozkład d Cohena oszacowanego w 10 000 symulowanych pilotaży z populacji, w której prawdziwa różnica wynosi d = 0.30 (czerwona linia). Kolorem wyróżniono oszacowania bliskie prawdy (0.20–0.40, niebieski), równe zero lub ujemne (pomarańczowy) i co najmniej dwukrotnie zawyżone (brązowy); niebieski odcinek u góry obejmuje 95% oszacowań. Obliczenia: R (dane symulowane).

Przy 12 osobach na grupę 95% oszacowań mieści się między −0.53 a 1.19. W 23.0% pilotaży efekt „zniknął” albo wyszedł w przeciwnym kierunku (d ≤ 0), w 23.9% był co najmniej dwa razy za duży (d ≥ 0.60), a tylko 19.4% oszacowań trafiło w przedział 0.20–0.40. Pilotaż z 50 osobami na grupę jest wyraźnie lepszy, ale wciąż mało precyzyjny: 95% oszacowań leży między −0.09 a 0.71.

Co z tego wynika dla planowania badania? Aby wykryć d = 0.30 z mocą 80% (test t dla prób niezależnych, α = .05, test dwustronny), potrzeba 176 osób na grupę. Tabela pokazuje, co się dzieje, gdy zamiast tego wpiszesz do kalkulatora d z pilotażu.

Skutki planowania liczebności badania głównego na podstawie d Cohena z pilotażu (symulacja, prawdziwe d = 0.30)
Wynik symulacjiPilotaż: 12 osób na grupęPilotaż: 50 osób na grupę
Pilotaże z d ≤ 0 (nie da się z nich zaplanować badania)23.0%6.7%
Mediana zaplanowanej liczebności na grupęa91156
Zaplanowano mniej niż połowę potrzebnych 176 osób na grupęa49.0%29.1%
Mediana rzeczywistej mocy badania głównegoa52.1%75.2%
Badania główne z mocą poniżej 50%a48.7%28.6%
Kontynuacja tylko po „obiecującym” pilotażu (d ≥ 0.20): mediana liczebności na grupę / mediana mocy59 / 36.5%108 / 59.3%

a Wśród pilotaży z d > 0. Liczebność badania głównego obliczono funkcją power.t.test() dla mocy 80% i α = .05, a rzeczywistą moc – dla prawdziwego d = 0.30. Obliczenia: R (dane symulowane).

Badacz, który zaplanuje badanie na podstawie pilotażu 12 + 12, w typowym przypadku zbierze 91 osób na grupę i będzie miał niewiele ponad 50% szans na wykrycie efektu, który naprawdę istnieje. Jeszcze gorzej, gdy badanie kontynuuje się tylko po „obiecującym” pilotażu: pilotaże z niedoszacowanym efektem odpadają, a te z przeszacowanym prowadzą do zbyt małych badań głównych (mediana mocy 36.5%). Albers i Lakens (2018) nazywają ten mechanizm obciążeniem kontynuacji (follow-up bias) i pokazują, że prowadzi on do niedoszacowania mocy badań głównych. Z drugiej strony 40.2% pilotaży 12 + 12 daje d < 0.20 – po takim wyniku łatwo porzucić pomysł, choć efekt istnieje.

Co robić zamiast tego?

  • Oprzyj analizę mocy na najmniejszym efekcie, który ma dla Ciebie znaczenie, albo na wynikach metaanaliz i dużych badań. Lakens (2022) opisuje sześć sposobów uzasadnienia liczebności próby – od ograniczeń zasobów, przez analizę mocy a priori, po planowanie dokładności oszacowania – i wskazuje, jakie wielkości efektu warto przy tym rozważyć. Praktyczne kroki znajdziesz w haśle analiza mocy a priori w G*Power i w poradniku dobór liczebności próby.
  • Wykorzystaj pilotaż do tego, co szacuje lepiej: zmienności wyników, czasu wypełniania, odsetka osób, które kończą badanie. Julious (2005) uzasadnia regułę 12 osób na grupę względami wykonalności oraz precyzją oszacowania średniej i wariancji. To inny cel niż oszacowanie efektu – rysunek 2 pokazuje, jak nieprecyzyjne jest d przy takiej liczebności.
  • Pokaż niepewność: zamiast jednej liczby z pilotażu przygotuj tabelę liczebności dla kilku wartości efektu (np. d = 0.20, 0.30 i 0.40). Tabelę liczebności odzwierciedlającą niepewność oszacowań proponują Thabane i in. (2010).
  • Nie testuj hipotez na danych z pilotażu. Wynik nieistotny w pilotażu nie oznacza braku efektu, a istotny nie potwierdza hipotezy (zob. błąd I i II rodzaju).
Przykład reprodukowalny

Przykład w R: analiza danych z pilotażu

Pierwszy przepis pokazuje szybką kontrolę danych z pilotażu ankiety, drugi – symulację, z której pochodzą liczby w tabeli powyżej. Rysunki przygotowano tym samym kodem rozszerzonym o wykresy.

Pilotaż ankiety: czas, braki, odpowiedzi skrajne i spójność skali

Dane wejściowe: 30 studentów, sześć pozycji roboczej skali stresu związanego ze studiami (1–5) i czas wypełniania w minutach (dane symulowane, set.seed(29)).

Co odczytać: medianę i 90. centyl czasu, odsetek braków i odpowiedzi skrajnych w każdej pozycji, korelacje pozycja–reszta, alfę po usunięciu pozycji i 95% przedział ufności alfy.

R
library(psych)
set.seed(29)
n <- 30                                                   # pilotaż: 30 studentów
stres <- rnorm(n)                                         # nasilenie stresu (zmienna ukryta)
pozycja <- function(a, b) pmin(5, pmax(1, round(a + b * stres + rnorm(n, 0, 0.8))))
pilot <- data.frame(
  czas_min = round(exp(rnorm(n, log(8.5), 0.35)), 1),    # czas wypełniania w minutach
  s1 = pozycja(3.0, 0.9), s2 = pozycja(4.6, 0.5), s3 = pozycja(2.9, 0.9),
  s4 = pozycja(3.0, -0.9),                                # pozycja z przeczeniem (odwrócona)
  s5 = pozycja(3.1, 0.8), s6 = pozycja(2.8, 0.9))
zle <- sample(n, 12); pilot$s4[zle] <- 6 - pilot$s4[zle]  # 12 osób źle odczytało przeczenie
pilot$s5[sample(n, 4)] <- NA                              # 4 osoby pominęły pytanie o pracę zarobkową
pilot$s4 <- 6 - pilot$s4                                  # rekodowanie pozycji odwróconej

# 1. Czas wypełniania: 10., 50. i 90. centyl (minuty)
round(quantile(pilot$czas_min, c(.10, .50, .90)), 1)

# 2. Braki danych oraz odsetek odpowiedzi skrajnych w każdej pozycji (%)
poz <- pilot[, paste0("s", 1:6)]
round(rbind(braki = 100 * colMeans(is.na(poz)),
            odp_1 = 100 * colMeans(poz == 1, na.rm = TRUE),
            odp_5 = 100 * colMeans(poz == 5, na.rm = TRUE)), 1)

# 3. Pierwszy rzut oka na rzetelność: korelacja pozycja–reszta, alfa bez pozycji, alfa z 95% CI
a <- psych::alpha(poz, warnings = FALSE)
round(data.frame(r_pozycja_reszta = a$item.stats$r.drop,
                 alfa_bez_pozycji = a$alpha.drop$raw_alpha, row.names = names(poz)), 2)
print(psych::alpha.ci(a$total$raw_alpha, n.obs = n, n.var = 6))
Wynik w R
 10%  50%  90%
 5.4  8.5 12.0
        s1   s2   s3 s4   s5   s6
braki  0.0  0.0  0.0  0 13.3  0.0
odp_1 13.3  0.0  6.7 20  3.8 13.3
odp_5  3.3 56.7 10.0 20  7.7 13.3
   r_pozycja_reszta alfa_bez_pozycji
s1             0.65             0.58
s2             0.20             0.71
s3             0.60             0.60
s4             0.04             0.81
s5             0.52             0.63
s6             0.74             0.54

   95% confidence boundaries (Feldt)
 lower alpha upper
   0.5   0.7  0.84

Symulacja: d Cohena z pilotażu a liczebność badania głównego

Dane wejściowe: 10 000 pilotaży po 12 i po 50 osób na grupę z populacji, w której prawdziwe d = 0.30 (dane symulowane, set.seed(2026)).

Co odczytać: zakres, w którym mieści się 95% oszacowań d, odsetek pilotaży z d ≤ 0, potrzebną liczebność, medianę liczebności zaplanowanej z pilotażu i medianę rzeczywistej mocy.

R
set.seed(2026)
d_cohena <- function(x, y) {
  sp <- sqrt(((length(x) - 1) * var(x) + (length(y) - 1) * var(y)) / (length(x) + length(y) - 2))
  (mean(x) - mean(y)) / sp
}
d12 <- replicate(10000, d_cohena(rnorm(12, 0.30, 1), rnorm(12, 0, 1)))  # pilotaże: 12 osób na grupę
d50 <- replicate(10000, d_cohena(rnorm(50, 0.30, 1), rnorm(50, 0, 1)))  # pilotaże: 50 osób na grupę
round(rbind(n12 = quantile(d12, c(.025, .975)), n50 = quantile(d50, c(.025, .975))), 2)
round(100 * c(n12 = mean(d12 <= 0), n50 = mean(d50 <= 0)), 1)            # % pilotaży z d <= 0

# Liczebność badania głównego policzona z d z pilotażu (moc 80%, alfa = .05, test dwustronny)
dod <- d12[d12 > 0]
n_plan <- sapply(dod, function(d)
  tryCatch(ceiling(power.t.test(delta = d, power = 0.80)$n), error = function(e) Inf))
moc <- sapply(n_plan, function(n) if (is.finite(n)) power.t.test(n = n, delta = 0.30)$power else 1)
c(potrzebne_n = ceiling(power.t.test(delta = 0.30, power = 0.80)$n),
  mediana_n_plan = median(n_plan), mediana_mocy = round(median(moc), 3),
  mediana_mocy_gdy_d_od_020 = round(median(moc[dod >= 0.20]), 3))
Wynik w R
     2.5% 97.5%
n12 -0.53  1.19
n50 -0.09  0.71
 n12  n50
23.0  6.7
              potrzebne_n            mediana_n_plan              mediana_mocy
                  176.000                    91.000                     0.521
mediana_mocy_gdy_d_od_020
                    0.365 

Bibliografia oprogramowania

Wyniki na tej stronie pochodzą z uruchomienia pokazanego kodu w R 4.5.3; rysunki przygotowano w pakiecie ggplot2. W pracy podaj wersje faktycznie użytych pakietów (sessionInfo()).

  1. R: R Core Team. (2026). R: A language and environment for statistical computing (Version 4.5.3) [Computer software]. R Foundation for Statistical Computing. https://www.R-project.org/
  2. psych (wersja 2.6.5): Revelle, W. (2026). psych: Procedures for psychological, psychometric, and personality research [R package]. Northwestern University. https://CRAN.R-project.org/package=psych
  3. ggplot2 (wersja 4.0.2): Wickham, H. (2016). ggplot2: Elegant graphics for data analysis. Springer. https://ggplot2.tidyverse.org

Co zmienić po pilotażu? Przykład decyzji

W przykładzie z kodu 30 studentów wypełniło roboczą, sześciopozycyjną skalę stresu związanego ze studiami. Każdy wynik prowadzi do konkretnej decyzji.

Wyniki przykładowego pilotażu, ich prawdopodobne przyczyny i decyzje
Wynik pilotażuPrawdopodobna przyczynaDecyzja
Pozycja s4 („Nie czuję się przytłoczony/a liczbą obowiązków”): korelacja pozycja–reszta r = .04; alfa bez tej pozycji rośnie z .70 do .81Przeczenie w pozycji odwróconej – część osób odpowiadała tak, jakby pozycja była sformułowana twierdzącoPrzeformułuj pozycję bez przeczenia i sprawdź ją w kilku wywiadach poznawczych; nie usuwaj pozycji tylko dlatego, że podnosi to alfę
Pozycja s2 („Zdarza mi się martwić egzaminami”): 56.7% osób wybrało najwyższą odpowiedźPozycja jest zbyt „łatwa” – zgadza się z nią prawie każdy (efekt sufitu)Zaostrz treść (np. „Martwię się egzaminami tak bardzo, że trudno mi się skupić”) albo zmień format na częstość
Pozycja s5 („Trudno mi pogodzić studia z pracą zarobkową”): 13.3% brakówPytanie nie dotyczy osób, które nie pracująDodaj pytanie filtrujące o pracę albo odpowiedź „nie dotyczy” i zakoduj ją osobno
Czas: mediana 8.5 min, 90% osób skończyło w ciągu 12.0 min–W zaproszeniu napisz „około 10 minut”; nie podawaj najkrótszego czasu
Alfa Cronbacha .70, 95% CI [.50, .84]Mała próba – szeroki przedział ufnościNie przedstawiaj alfy z pilotażu jako właściwości skali; policz ją ponownie w badaniu głównym (zob. spójność wewnętrzna)

Po takich poprawkach wróć do pytania, co dalej z całym badaniem. Thabane i in. (2010) proponują cztery możliwe wnioski z pilotażu: przerwać (badanie główne jest niewykonalne), kontynuować ze zmianami protokołu, kontynuować bez zmian, ale ściśle monitorować przebieg albo kontynuować bez zmian. Jeśli pilotaż ujawnił tylko problemy z pytaniami, zwykle wystarczy wariant drugi: poprawiasz narzędzie i ruszasz z badaniem.

Poprawki trzeba jednak sprawdzić. W eksperymencie Lenznera i in. (2023) problemy wykryte w dziesięciu wywiadach poznawczych rzeczywiście ujawniały się w badaniu właściwym (n = 2200), ale wersja pytania poprawiona na ich podstawie nie musiała dawać danych lepszej jakości. Wniosek: pretestuj iteracyjnie – po zmianach przeprowadź kolejną, choćby krótką rundę wywiadów albo mini-pilotaż.

Osobna sprawa to dane. Jeśli po pilotażu zmieniłeś narzędzie, nie łącz danych z pilotażu z danymi z badania głównego. Van Teijlingen i Hundley (2001) opisują to jako ryzyko „zanieczyszczenia” wyników. Thabane i in. (2010) dopuszczają łączenie danych tylko wtedy, gdy dobór próby i metody były identyczne, a połączenie zaplanowano z góry w protokole – po zmianach w ankiecie ten warunek nie jest spełniony.

Jak opisać badanie pilotażowe w pracy?

Pilotaż opisz w rozdziale metodologicznym, w części o narzędziach lub procedurze. Lista kontrolna CROSS dla badań ankietowych obejmuje m.in. informację o pretestowaniu kwestionariusza: jaką metodą go przeprowadzono, na ilu osobach i jakie miały one cechy (Sharma i in., 2021). Van Teijlingen i Hundley (2001) zachęcają, by raportować, czego konkretnie nauczył nas pilotaż – samo zdanie „przeprowadzono pilotaż” nic czytelnikowi nie mówi.

Wzór raportu z badania pilotażowego: elementy i ich treść
Element opisuCo napisać
CelCo sprawdzałeś: zrozumiałość pytań, czas, działanie skal, procedurę, rekrutację
UczestnicyLiczba osób, sposób rekrutacji, podobieństwo do populacji docelowej
MetodaWywiady poznawcze (jaka technika), pilotaż internetowy, urządzenia
WynikiCzas wypełniania, problemy z pozycjami, braki danych, spójność skal z przedziałem ufności
ZmianyCo zmieniono i dlaczego – najlepiej tabela „przed i po” w aneksie
DaneCzy dane z pilotażu włączono do analiz (zwykle nie) i czy uczestnicy pilotażu brali udział w badaniu głównym

Przykładowy opis na podstawie pilotażu z kodu (liczbę wywiadów poznawczych uzupełnij własną):

Przed badaniem właściwym przeprowadzono badanie pilotażowe. Wstępną wersję kwestionariusza sprawdzono w [liczba] wywiadach poznawczych z pytaniami sondującymi, a następnie w pilotażu internetowym na próbie 30 studentów z populacji docelowej, którzy nie brali udziału w badaniu głównym. Mediana czasu wypełniania wyniosła 8.5 min (90% osób ukończyło ankietę w ciągu 12.0 min). Pozycja 4 skali stresu, zawierająca przeczenie, słabo korelowała z resztą skali (r = .04), dlatego sformułowano ją twierdząco. W pozycji 2 aż 56.7% osób wybrało najwyższą odpowiedź, więc zaostrzono jej treść. Ze względu na 13.3% braków odpowiedzi w pozycji dotyczącej pracy zarobkowej dodano pytanie filtrujące. Danych z pilotażu nie włączono do analiz.

Gdzie umieścić ten akapit i jak opisać pozostałe elementy procedury, pokazujemy w poradniku o rozdziale metodologicznym pracy magisterskiej.

Najczęstsze błędy

  • Pilotaż na znajomych – osoby spoza populacji docelowej, które znają cel badania, nie pokażą prawdziwych problemów z pytaniami.
  • Za mało osób w preteście – przy 10 osobach problem dotyczący 5% respondentów ma 40% szans, by się ujawnić (Perneger i in., 2015).
  • Analiza mocy z efektu z pilotażu – oszacowanie jest zbyt nieprecyzyjne (Leon i in., 2011), a kontynuowanie tylko „obiecujących” pilotaży zaniża moc badań głównych (Albers i Lakens, 2018).
  • Testowanie hipotez na danych z pilotażu i raportowanie ich wartości p jako wyników pracy.
  • Alfa z pilotażu jako dowód rzetelności – przy 30 osobach 95% przedział ufności dla α = .70 sięga od .50 do .84.
  • Brak ponownego testu po poprawkach – poprawiona wersja pytania nie musi działać lepiej (Lenzner i in., 2023).
  • Łączenie danych z pilotażu i badania głównego po zmianach w narzędziu.
  • Pilotaż tylko na komputerze, choć część osób wypełni ankietę na telefonie – tabele i suwaki działają na smartfonie inaczej (zob. najczęstsze błędy w ankietach).

Najczęstsze pytania

Ile osób potrzeba do badania pilotażowego?

To zależy od celu. Wywiady poznawcze prowadzi się zwykle w rundach po ok. 10 osób, do pretestu kwestionariusza Perneger i in. (2015) rekomendują domyślnie 30 osób, a w pilotażu z porównaniem grup – 12 osób na grupę (Julious, 2005) albo 10–40 osób na grupę zależnie od tego, co chcesz oszacować (Hertzog, 2008).

Czy badanie pilotażowe jest obowiązkowe w pracy magisterskiej?

Nie ma ogólnej reguły, która by go wymagała – decydują promotor, wydział albo komisja etyczna. Pilotaż warto jednak zrobić przy każdej ankiecie z własnymi pytaniami lub nową skalą, bo błędów wykrytych po zebraniu danych zwykle nie da się już naprawić.

Czy dane z pilotażu można włączyć do badania głównego?

Zwykle nie. Jeśli po pilotażu zmieniłeś narzędzie, dane nie są porównywalne, a osoby z pilotażu znają już pytania. Łączenie danych ma sens tylko wtedy, gdy dobór próby i metody były identyczne, a połączenie zaplanowano z góry (Thabane i in., 2010).

Czy z pilotażu można obliczyć wielkość efektu do G*Power?

Nie należy tego robić. W naszej symulacji przy 12 osobach na grupę 95% oszacowań d mieściło się między −0.53 a 1.19, choć prawdziwe d wynosiło 0.30. Analizę mocy opieraj na najmniejszym efekcie, który ma znaczenie, albo na wynikach metaanaliz (Leon i in., 2011; Lakens, 2022).

Co zrobić, gdy pilotaż wypadł źle?

Potraktuj to jako sukces pilotażu – wykrył problemy przed badaniem głównym. Popraw pytania niezrozumiałe lub nieróżnicujące osób, skróć ankietę, napraw filtry, a poprawioną wersję sprawdź ponownie na kilku osobach. Gdy problem dotyczy wykonalności, np. rekrutacji, zmień procedurę.

Jak opisać badanie pilotażowe w pracy?

W rozdziale metodologicznym podaj cel pilotażu, liczbę i charakterystykę uczestników, metodę (np. wywiady poznawcze, pilotaż internetowy), najważniejsze wyniki i wprowadzone zmiany. Lista kontrolna CROSS obejmuje opis metody pretestu oraz liczby i cech osób, które w nim uczestniczyły (Sharma i in., 2021).

Powiązane hasła

Przeczytaj też

Potrzebujesz wsparcia w analizie danych?

Wybierz ofertę dopasowaną do pracy dyplomowej albo profesjonalnego projektu naukowego.

Wyceń analizęOferta dla studentów

Bibliografia i dalsza literatura naukowa (APA 7)

  1. Albers, C., & Lakens, D. (2018). When power analyses based on pilot data are biased: Inaccurate effect size estimators and follow-up bias. Journal of Experimental Social Psychology, 74, 187–195. https://doi.org/10.1016/j.jesp.2017.09.004 ● Otwarty dostęp
  2. Eldridge, S. M., Chan, C. L., Campbell, M. J., Bond, C. M., Hopewell, S., Thabane, L., & Lancaster, G. A. (2016). CONSORT 2010 statement: Extension to randomised pilot and feasibility trials. BMJ, 355, Article i5239. https://doi.org/10.1136/bmj.i5239 ● Otwarty dostęp
  3. Hertzog, M. A. (2008). Considerations in determining sample size for pilot studies. Research in Nursing & Health, 31(2), 180–191. https://doi.org/10.1002/nur.20247
  4. Julious, S. A. (2005). Sample size of 12 per group rule of thumb for a pilot study. Pharmaceutical Statistics, 4(4), 287–291. https://doi.org/10.1002/pst.185
  5. Lakens, D. (2022). Sample size justification. Collabra: Psychology, 8(1), Article 33267. https://doi.org/10.1525/collabra.33267 ● Otwarty dostęp
  6. Lenzner, T., Hadler, P., & Neuert, C. (2023). An experimental test of the effectiveness of cognitive interviewing in pretesting questionnaires. Quality & Quantity, 57(4), 3199–3217. https://doi.org/10.1007/s11135-022-01489-4 ● Otwarty dostęp
  7. Leon, A. C., Davis, L. L., & Kraemer, H. C. (2011). The role and interpretation of pilot studies in clinical research. Journal of Psychiatric Research, 45(5), 626–629. https://doi.org/10.1016/j.jpsychires.2010.10.008 ● Otwarty dostęp
  8. Perneger, T. V., Courvoisier, D. S., Hudelson, P. M., & Gayet-Ageron, A. (2015). Sample size for pre-tests of questionnaires. Quality of Life Research, 24(1), 147–151. https://doi.org/10.1007/s11136-014-0752-2 ● Otwarty dostęp: pełny tekst
  9. Sharma, A., Minh Duc, N. T., Luu Lam Thang, T., Nam, N. H., Ng, S. J., Abbas, K. S., Huy, N. T., Marušić, A., Paul, C. L., Kwok, J., Karbwang, J., de Waure, C., Drummond, F. J., Kizawa, Y., Taal, E., Vermeulen, J., Lee, G. H. M., Gyedu, A., To, K. G., . . . Karamouzian, M. (2021). A consensus-based Checklist for Reporting of Survey Studies (CROSS). Journal of General Internal Medicine, 36(10), 3179–3187. https://doi.org/10.1007/s11606-021-06737-1 ● Otwarty dostęp
  10. Thabane, L., Ma, J., Chu, R., Cheng, J., Ismaila, A., Rios, L. P., Robson, R., Thabane, M., Giangregorio, L., & Goldsmith, C. H. (2010). A tutorial on pilot studies: The what, why and how. BMC Medical Research Methodology, 10(1), Article 1. https://doi.org/10.1186/1471-2288-10-1 ● Otwarty dostęp
  11. van Teijlingen, E. R., & Hundley, V. (2001). The importance of pilot studies. Social Research Update. https://sru.soc.surrey.ac.uk/SRU35.html ● Otwarty dostęp
  12. Willis, G. B., & Artino, A. R., Jr. (2013). What do our respondents think we're asking? Using cognitive interviewing to improve medical education surveys. Journal of Graduate Medical Education, 5(3), 353–356. https://doi.org/10.4300/JGME-D-13-00154.1 ● Otwarty dostęp

Cytowania BibTeX

@article{albers2018power, author={Albers, Casper and Lakens, Daniël}, title={{When power analyses based on pilot data are biased: Inaccurate effect size estimators and follow-up bias}}, journal={Journal of Experimental Social Psychology}, year={2018}, volume={74}, pages={187--195}, doi={10.1016/j.jesp.2017.09.004}}
@article{eldridge2016consort, author={Eldridge, Sandra M. and Chan, Claire L. and Campbell, Michael J. and Bond, Christine M. and Hopewell, Sally and Thabane, Lehana and Lancaster, Gillian A.}, title={{CONSORT 2010 statement: Extension to randomised pilot and feasibility trials}}, journal={BMJ}, year={2016}, volume={355}, eid={i5239}, doi={10.1136/bmj.i5239}}
@article{hertzog2008considerations, author={Hertzog, Melody A.}, title={{Considerations in determining sample size for pilot studies}}, journal={Research in Nursing \& Health}, year={2008}, volume={31}, number={2}, pages={180--191}, doi={10.1002/nur.20247}}
@article{julious2005sample, author={Julious, Steven A.}, title={{Sample size of 12 per group rule of thumb for a pilot study}}, journal={Pharmaceutical Statistics}, year={2005}, volume={4}, number={4}, pages={287--291}, doi={10.1002/pst.185}}
@article{lakens2022sample, author={Lakens, Daniël}, title={{Sample size justification}}, journal={Collabra: Psychology}, year={2022}, volume={8}, number={1}, eid={33267}, doi={10.1525/collabra.33267}}
@article{lenzner2023experimental, author={Lenzner, Timo and Hadler, Patricia and Neuert, Cornelia}, title={{An experimental test of the effectiveness of cognitive interviewing in pretesting questionnaires}}, journal={Quality \& Quantity}, year={2023}, volume={57}, number={4}, pages={3199--3217}, doi={10.1007/s11135-022-01489-4}}
@article{leon2011role, author={Leon, Andrew C. and Davis, Lori L. and Kraemer, Helena C.}, title={{The role and interpretation of pilot studies in clinical research}}, journal={Journal of Psychiatric Research}, year={2011}, volume={45}, number={5}, pages={626--629}, doi={10.1016/j.jpsychires.2010.10.008}}
@article{perneger2015sample, author={Perneger, Thomas V. and Courvoisier, Delphine S. and Hudelson, Patricia M. and Gayet-Ageron, Angèle}, title={{Sample size for pre-tests of questionnaires}}, journal={Quality of Life Research}, year={2015}, volume={24}, number={1}, pages={147--151}, doi={10.1007/s11136-014-0752-2}}
@article{sharma2021consensus, author={Sharma, Akash and Minh Duc, Nguyen Tran and Luu Lam Thang, Tai and Nam, Nguyen Hai and Ng, Sze Jia and Abbas, Kirellos Said and Huy, Nguyen Tien and Marušić, Ana and Paul, Christine L. and Kwok, Janette and Karbwang, Juntra and de Waure, Chiara and Drummond, Frances J. and Kizawa, Yoshiyuki and Taal, Erik and Vermeulen, Joeri and Lee, Gillian H. M. and Gyedu, Adam and To, Kien Gia and Verra, Martin L. and Jacqz-Aigrain, Évelyne M. and Leclercq, Wouter K. G. and Salminen, Simo T. and Sherbourne, Cathy Donald and Mintzes, Barbara and Lozano, Sergi and Tran, Ulrich S. and Matsui, Mitsuaki and Karamouzian, Mohammad}, title={{A consensus-based Checklist for Reporting of Survey Studies (CROSS)}}, journal={Journal of General Internal Medicine}, year={2021}, volume={36}, number={10}, pages={3179--3187}, doi={10.1007/s11606-021-06737-1}}
@article{thabane2010tutorial, author={Thabane, Lehana and Ma, Jinhui and Chu, Rong and Cheng, Ji and Ismaila, Afisi and Rios, Lorena P. and Robson, Reid and Thabane, Marroon and Giangregorio, Lora and Goldsmith, Charles H.}, title={{A tutorial on pilot studies: The what, why and how}}, journal={BMC Medical Research Methodology}, year={2010}, volume={10}, number={1}, eid={1}, doi={10.1186/1471-2288-10-1}}
@article{vanteijlingen2001importance, author={van Teijlingen, Edwin R. and Hundley, Vanora}, title={{The importance of pilot studies}}, journal={Social Research Update}, year={2001}, number={35}, url={https://sru.soc.surrey.ac.uk/SRU35.html}}
@article{willis2013what, author={Willis, Gordon B. and Artino, Jr., Anthony R.}, title={{What do our respondents think we're asking? Using cognitive interviewing to improve medical education surveys}}, journal={Journal of Graduate Medical Education}, year={2013}, volume={5}, number={3}, pages={353--356}, doi={10.4300/jgme-d-13-00154.1}}
R