Słownik metodologiczny · Modele regresji

Test ilorazu wiarygodności (LRT) – jak porównać dwa modele regresji?

Test ilorazu wiarygodności sprawdza, czy dodatkowe predyktory istotnie poprawiają model regresji. Pokazujemy wzór, przykład regresji logistycznej w R z anova() i gotowy opis do pracy.

Strona główna / Słownik / Test ilorazu wiarygodności

Opracowanie merytoryczne: · Opublikowano: · Aktualizacja:

W skrócie: Test ilorazu wiarygodności (LRT) porównuje dwa zagnieżdżone modele dopasowane do tych samych danych: LR = −2(ln L₀ − ln L₁), z df równym liczbie dodanych parametrów. Istotny wynik oznacza, że dodatkowe predyktory poprawiają dopasowanie.

Co to jest test ilorazu wiarygodności?

Test ilorazu wiarygodności (ang. likelihood ratio test, LRT) porównuje dwa modele zagnieżdżone. Prostszy model powstaje z bardziej złożonego przez usunięcie predyktorów, czyli ustawienie ich współczynników na zero. Test sprawdza, czy dodatkowe parametry istotnie poprawiają dopasowanie. Oba modele muszą być oszacowane metodą największej wiarygodności na tych samych obserwacjach.

Jak go liczyć?

Statystyka testu to podwojona różnica logarytmów wiarygodności: LR = −2(ln L₀ − ln L₁). L₀ to wiarygodność modelu prostszego, a L₁ – bardziej złożonego. Wynik porównuje się z rozkładem χ² o liczbie stopni swobody równej liczbie dodanych parametrów (Bewick i in., 2005). W regresji logistycznej ta sama liczba to różnica dewiancji obu modeli. Ogólny test modelu to LRT względem modelu z samym wyrazem wolnym.

Na tej samej logice opiera się test różnicy chi-kwadrat w SEM, ale tam porównuje się modele strukturalne. Tu chodzi o regresję: logistyczną, Poissona, porządkową czy wielomianową. Klasyczny LRT nie nadaje się do modeli niezagnieżdżonych. Vuong (1989) zaproponował dla nich osobny test, a w praktyce częściej porównuje się je za pomocą AIC i BIC.

Przykład

W symulowanych danych 200 studentów (110 zdało egzamin) model regresji logistycznej z liczbą godzin nauki miał ln L = −120.20. Po dodaniu lęku egzaminacyjnego ln L wzrosło do −117.80. Daje to LR = 4.80, df = 1, p = .028, więc lęk poprawia przewidywanie ponad sam czas nauki.

Jak opisać w pracy

Dodanie lęku egzaminacyjnego do modelu regresji logistycznej z liczbą godzin nauki istotnie poprawiło dopasowanie modelu, test ilorazu wiarygodności: χ²(1) = 4.80, p = .028.

Na co uważać

  • Ta sama próba w obu modelach. Braki danych w nowym predyktorze zmniejszają liczbę obserwacji. Funkcja anova() w R przerywa wtedy porównanie komunikatem o różnej liczbie obserwacji. Dopasuj oba modele na tych samych przypadkach.
  • LRT a test Walda. Bewick i in. (2005) uznają LRT za pewniejszy niż test Walda, zwłaszcza w małych próbach.
  • Istotność to nie wielkość efektu. Obok testu podaj iloraz szans z przedziałem ufności.

Cały model z testami i interpretacją opisuje wpis Regresja logistyczna krok po kroku.

Przykład reprodukowalny

Test ilorazu wiarygodności w R

Kod dopasowuje dwa zagnieżdżone modele regresji logistycznej i porównuje je funkcją anova(..., test = "LRT"), a potem liczy tę samą statystykę z log-wiarygodności.

LRT: czy lęk poprawia model z godzinami nauki

Dane wejściowe: wynik egzaminu (zdał / nie zdał), liczba godzin nauki, lęk egzaminacyjny i czas snu u 200 studentów (dane symulowane, set.seed(2691)).

Co odczytać: różnicę dewiancji (Deviance), liczbę stopni swobody i p, a w drugiej części ln L obu modeli i LR.

R
set.seed(2691)
n <- 200
godziny <- round(runif(n, 0, 20), 1)                # godziny nauki (dane symulowane)
lek     <- round(rnorm(n, 50, 10))                  # lęk egzaminacyjny
sen     <- round(rnorm(n, 7, 1), 1)                 # sen: w danych bez związku z wynikiem
zdal    <- rbinom(n, 1, plogis(-1.2 + 0.15 * godziny - 0.04 * (lek - 50)))
m1 <- glm(zdal ~ godziny, family = binomial)
m2 <- glm(zdal ~ godziny + lek, family = binomial)
anova(m1, m2, test = "LRT")                         # LR = różnica dewiancji, df = 1
LR <- as.numeric(2 * (logLik(m2) - logLik(m1)))     # to samo z log-wiarygodności
round(c(LL1 = as.numeric(logLik(m1)), LL2 = as.numeric(logLik(m2)), LR = LR,
        p = pchisq(LR, df = 1, lower.tail = FALSE)), 3)
Wynik w R
Analysis of Deviance Table

Model 1: zdal ~ godziny
Model 2: zdal ~ godziny + lek
  Resid. Df Resid. Dev Df Deviance Pr(>Chi)  
1       198     240.41                       
2       197     235.60  1   4.8033  0.02841 *
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
     LL1      LL2       LR        p 
-120.203 -117.801    4.803    0.028

Bibliografia oprogramowania

Wyniki pochodzą z uruchomienia pokazanego kodu w R 4.5.3 (funkcje pakietów base i stats). W pracy podaj wersję R, której faktycznie użyto (sessionInfo()).

  1. R: R Core Team. (2026). R: A language and environment for statistical computing (Version 4.5.3) [Computer software]. R Foundation for Statistical Computing. https://www.R-project.org/

Najczęstsze pytania

Kiedy wolno użyć testu ilorazu wiarygodności?

Gdy porównujesz modele zagnieżdżone: prostszy powstaje z bardziej złożonego przez usunięcie parametrów. Oba muszą być dopasowane do tych samych obserwacji. Modele niezagnieżdżone porównuj kryteriami AIC i BIC.

Jak policzyć test ilorazu wiarygodności w R?

Dopasuj dwa modele funkcją glm() i wywołaj anova(m1, m2, test = "LRT"). Kolumna Deviance to statystyka LR, a Df – liczba dodanych parametrów.

Czym test ilorazu wiarygodności różni się od testu Walda?

Test Walda korzysta z jednego modelu i błędu standardowego współczynnika. LRT porównuje dwa dopasowane modele i w małych próbach uchodzi za pewniejszy (Bewick i in., 2005).

Powiązane hasła

Dewiancja (deviance)Test WaldaAIC i BIC w regresjiMetoda największej wiarygodnościTest różnicy chi-kwadrat w SEMRegresja logistyczna

Poradniki, w których użyjesz tego pojęcia

Poradnik

Regresja logistyczna krok po kroku

Ilorazy szans i prawdopodobieństwa przewidywane, założenia, separacja, pseudo-R², AUC i kalibracja, tabela APA – na danych do pobrania z kodem R.

Czytaj →Poradnik

Wielomianowa regresja logistyczna

Kategoria odniesienia, RRR, test predyktorów, prawdopodobieństwa przewidywane, założenie IIA i tabela APA – na danych do pobrania z kodem R.

Czytaj →

Potrzebujesz wsparcia w analizie danych?

Wybierz ofertę dopasowaną do pracy dyplomowej albo profesjonalnego projektu naukowego.

Wyceń analizęOferta dla studentów

Bibliografia i dalsza literatura naukowa (APA 7)

  1. Bewick, V., Cheek, L., & Ball, J. (2005). Statistics review 14: Logistic regression. Critical Care, 9(1), 112–118. https://doi.org/10.1186/cc3045 ● Otwarty dostęp
  2. Vuong, Q. H. (1989). Likelihood ratio tests for model selection and non-nested hypotheses. Econometrica, 57(2), 307–333. https://doi.org/10.2307/1912557

Cytowania BibTeX

@article{bewick2005statistics, author={Bewick, Viv and Cheek, Liz and Ball, Jonathan}, title={{Statistics review 14: Logistic regression}}, journal={Critical Care}, year={2005}, volume={9}, number={1}, pages={112--118}, doi={10.1186/cc3045}}
@article{vuong1989likelihood, author={Vuong, Quang H.}, title={{Likelihood ratio tests for model selection and non-nested hypotheses}}, journal={Econometrica}, year={1989}, volume={57}, number={2}, pages={307--333}, doi={10.2307/1912557}}
R