Słownik metodologiczny · Modele regresji

Dźwignia (leverage) – kiedy obserwacja ma nietypowe predyktory?

Dźwignia mierzy, jak nietypowy jest układ predyktorów obserwacji w regresji. Pokazujemy progi 2p/n i 3p/n, różnicę między dźwignią a wpływem, przykład w R z hatvalues() i opis do pracy.

Strona główna / Słownik / Dźwignia (leverage)

Opracowanie merytoryczne: · Opublikowano: · Aktualizacja:

W skrócie: Dźwignia (hii) mierzy, jak nietypowe są wartości predyktorów obserwacji. Średnia dźwignia to p/n, a za orientacyjny próg uznaje się 2p/n. Duża dźwignia nie oznacza wpływu: obserwacja zgodna z trendem tylko zwiększa precyzję modelu.

Co to jest dźwignia?

Dźwignia (ang. leverage, hat value) to miara tego, jak nietypowy jest układ wartości predyktorów danej obserwacji w modelu regresji. Oznacza się ją hii: to element przekątnej macierzy kapeluszowej (hat matrix), która przekształca obserwowane wartości y w wartości dopasowane. Hoaglin i Welsch (1978) pokazali, że hii mówi, jak silnie własna wartość y obserwacji wpływa na jej wartość dopasowaną. Zależy wyłącznie od predyktorów, nie od zmiennej zależnej. To składnik odległości Cooka, a nie miara wpływu.

Jak ją liczyć i oceniać

Dźwignia przyjmuje wartości od 1/n do 1, a jej średnia zawsze wynosi p/n (p to liczba współczynników razem z wyrazem wolnym). W regresji z jednym predyktorem rośnie z kwadratem odległości x od średniej, a przy wielu predyktorach jest związana z odległością Mahalanobisa. Za orientacyjny próg uznaje się 2p/n (Hoaglin i Welsch, 1978; Belsley i in., 1980), a ostrzejszy wariant to 3p/n. W R dźwignię zwraca funkcja hatvalues().

Przykład

W danych symulowanych 29 z 30 studentów uczyło się od 2 do 12 godzin, a jedna osoba 24 godziny. Średnia dźwignia to .067, próg 2p/n = .133. Najwyższa dźwignia wśród 29 osób wynosi .096, a u osoby uczącej się 24 godziny .575. Gdy jej wynik leży na prostej wyznaczonej przez pozostałych, model prawie się nie zmienia: nachylenie 2.27 zamiast 2.29, odległość Cooka .003. Gdy ta sama osoba ma słaby wynik, dźwignia jest identyczna (.575), ale nachylenie spada do 1.01, a odległość Cooka rośnie do 8.53.

Jak opisać w pracy

Dźwignię obserwacji oceniono na podstawie wartości h z macierzy kapeluszowej (próg orientacyjny 2p/n = .133). Jedna osoba miała wysoką dźwignię (h = .575), ale jej wynik był zgodny z trendem pozostałych (reszta studentyzowana = −0.06, odległość Cooka = .003), dlatego pozostawiono ją w analizie.

Na co uważać

  • Dźwignia to nie wpływ. Obserwacja z dużą dźwignią i małą resztą zwiększa precyzję oszacowań. Wpływ ocenia odległość Cooka albo DFBETAS.
  • Progi są umowne. Liczy się to, czy obserwacja wyraźnie odstaje od reszty. Bollen i Jackman (1985) przestrzegają przed mechanicznym usuwaniem obserwacji.
  • Reszty punktów o wysokiej dźwigni są z natury mniejsze. Model „przyciąga” się do nich, dlatego błędy HC3 dzielą kwadrat reszty przez (1 − h)².

Pełną diagnostykę modelu z dźwignią, resztami i miarami wpływu pokazuje wpis Diagnostyka regresji w R.

Przykład reprodukowalny

Dźwignia w R

Kod liczy dźwignię funkcją hatvalues(), porównuje ją z progami 2p/n i 3p/n i pokazuje, że ta sama dźwignia może dawać mały albo duży wpływ na model.

Dźwignia, reszta studentyzowana i odległość Cooka w dwóch wariantach danych

Dane wejściowe: liczba godzin nauki i wynik egzaminu 30 studentów; osoba 30 uczyła się 24 godziny, a jej wynik leży na prostej pozostałych osób (wariant A) albo wynosi 55 punktów (wariant B) (dane symulowane, set.seed(2841)).

Co odczytać: średnią dźwignię i progi, dźwignię osoby 30 (h_30) w obu wariantach, nachylenie b, resztę studentyzowaną i odległość Cooka.

R
set.seed(2841)
n <- 30
godziny <- round(c(runif(n - 1, 2, 12), 24), 1)          # osoba 30: 24 godziny nauki, reszta 2–12
wynik   <- round(40 + 2 * godziny + rnorm(n, 0, 6))
b_bez30 <- coef(lm(wynik ~ godziny, subset = -n))         # prosta z 29 pozostałych osób
wynik[n] <- round(b_bez30[[1]] + b_bez30[[2]] * 24)       # wariant A: osoba 30 na tej prostej
mA <- lm(wynik ~ godziny)
mB <- lm(replace(wynik, n, 55) ~ godziny)                 # wariant B: ta sama osoba, wynik 55
p <- length(coef(mA))
round(c(srednia_h = mean(hatvalues(mA)), prog_2p_n = 2 * p / n, prog_3p_n = 3 * p / n,
        h_max_pozostali = max(hatvalues(mA)[-n])), 3)
round(rbind(A = c(h_30 = hatvalues(mA)[[n]], b = coef(mA)[[2]], t_stud = rstudent(mA)[[n]],
                  cook = cooks.distance(mA)[[n]]),
            B = c(h_30 = hatvalues(mB)[[n]], b = coef(mB)[[2]], t_stud = rstudent(mB)[[n]],
                  cook = cooks.distance(mB)[[n]])), 3)
round(c(b_bez30 = b_bez30[[2]], wynik_A = wynik[n]), 3)
Wynik w R
      srednia_h       prog_2p_n       prog_3p_n h_max_pozostali 
          0.067           0.133           0.200           0.096 
   h_30     b t_stud  cook
A 0.575 2.268 -0.060 0.003
B 0.575 1.008 -4.702 8.527
b_bez30 wynik_A 
  2.285  93.000

Bibliografia oprogramowania

Wyniki pochodzą z uruchomienia pokazanego kodu w R 4.5.3 (funkcje pakietów base i stats). W pracy podaj wersję R, której faktycznie użyto (sessionInfo()).

  1. R: R Core Team. (2026). R: A language and environment for statistical computing (Version 4.5.3) [Computer software]. R Foundation for Statistical Computing. https://www.R-project.org/

Najczęstsze pytania

Jaki próg dźwigni przyjąć w regresji?

Najczęściej 2p/n albo 3p/n, gdzie p to liczba współczynników z wyrazem wolnym. Progi są umowne: ważniejsze jest, czy obserwacja wyraźnie odstaje od pozostałych.

Czy obserwację o dużej dźwigni trzeba usunąć?

Nie. Jeśli jej wynik jest zgodny z trendem pozostałych, stabilizuje model. Sprawdź resztę studentyzowaną i odległość Cooka, a w razie wątpliwości pokaż analizę wrażliwości.

Czym różni się dźwignia od odległości Cooka?

Dźwignia zależy tylko od predyktorów. Odległość Cooka łączy dźwignię z resztą i pokazuje, jak bardzo zmieniłyby się współczynniki po usunięciu obserwacji.

Powiązane hasła

Odległość CookaDFBETASReszty regresjiOdległość MahalanobisaObserwacja odstającaOdporne błędy standardowe (HC3)

Poradniki, w których użyjesz tego pojęcia

Poradnik

Diagnostyka regresji w R

Reszty studentyzowane, dźwignia, Cook i DFBETAS, VIF, maskowanie heteroskedastyczności, HC3 i analiza wrażliwości – z danymi i kodem R.

Czytaj →Poradnik

Regresja wieloraka krok po kroku

Model i hipotezy, przygotowanie danych, założenia i diagnostyka, ΔR², interpretacja b, β i sr², kod R, SPSS i opis APA – na jednym przykładzie.

Czytaj →

Potrzebujesz wsparcia w analizie danych?

Wybierz ofertę dopasowaną do pracy dyplomowej albo profesjonalnego projektu naukowego.

Wyceń analizęOferta dla studentów

Bibliografia i dalsza literatura naukowa (APA 7)

  1. Belsley, D. A., Kuh, E., & Welsch, R. E. (1980). Regression diagnostics: Identifying influential data and sources of collinearity. Wiley. https://doi.org/10.1002/0471725153
  2. Bollen, K. A., & Jackman, R. W. (1985). Regression diagnostics: An expository treatment of outliers and influential cases. Sociological Methods & Research, 13(4), 510–542. https://doi.org/10.1177/0049124185013004004
  3. Hoaglin, D. C., & Welsch, R. E. (1978). The hat matrix in regression and ANOVA. The American Statistician, 32(1), 17–22. https://doi.org/10.1080/00031305.1978.10479237 ● Otwarty dostęp: pełny tekst

Cytowania BibTeX

@book{belsley1980regression, author={Belsley, David A. and Kuh, Edwin and Welsch, Roy E.}, title={{Regression diagnostics: Identifying influential data and sources of collinearity}}, year={1980}, publisher={Wiley}, doi={10.1002/0471725153}}
@article{bollen1985regression, author={Bollen, Kenneth A. and Jackman, Robert W.}, title={{Regression diagnostics: An expository treatment of outliers and influential cases}}, journal={Sociological Methods \& Research}, year={1985}, volume={13}, number={4}, pages={510--542}, doi={10.1177/0049124185013004004}}
@article{hoaglin1978hat, author={Hoaglin, David C. and Welsch, Roy E.}, title={{The hat matrix in regression and ANOVA}}, journal={The American Statistician}, year={1978}, volume={32}, number={1}, pages={17--22}, doi={10.1080/00031305.1978.10479237}}
R