Słownik metodologiczny · Modele regresji

Wykres częściowej zależności i krzywe ICE (PDP, ICE) – jak zajrzeć do lasu losowego?

Wykres częściowej zależności pokazuje, jak średnio zmienia się prognoza modelu, gdy zmieniamy jeden predyktor. Krzywe ICE pokazują to samo dla każdej osoby osobno. Wyjaśniamy, jak je liczyć ręcznie w R i dlaczego płaski PDP nie znaczy, że zmienna nie działa.

Strona główna / Słownik / Wykres częściowej zależności (PDP, ICE)
W skrócie: Wykres częściowej zależności (PDP) to średnia prognoza modelu przy ustawieniu wszystkim osobom tej samej wartości jednego predyktora. Krzywe ICE pokazują tę zależność dla każdej osoby osobno – PDP jest ich średnią. Gdy krzywe ICE biegną w różnych kierunkach, model zawiera interakcję, a sam PDP może ją ukryć.

Co to jest PDP i krzywe ICE?

Wykres częściowej zależności (ang. partial dependence plot, PDP) pokazuje, jak średnio zmienia się prognoza modelu, gdy zmieniamy jeden predyktor, a pozostałe zostawiamy takie, jakie są w danych. Friedman (2001) przedstawił takie narzędzia do interpretacji modeli złożonych z wielu drzew regresyjnych. Służą tam, gdzie model nie ma czytelnych współczynników, np. w lesie losowym (Breiman, 2001). Uzupełniają ważność permutacyjną, która mówi, czy zmienna pomaga, ale nie – jak. Krzywa ICE (ang. individual conditional expectation) to ten sam rachunek dla jednej osoby. PDP jest średnią wszystkich krzywych ICE. Goldstein i in. (2015) zaproponowali krzywe ICE, bo przy silnych interakcjach średnia krzywa może ukryć to, co model naprawdę robi.

Jak czytać wykres

  • Oś pozioma to wartości predyktora z siatki, a oś pionowa to prognoza modelu, nie obserwowany wynik.
  • Równoległe krzywe ICE oznaczają efekt podobny u wszystkich. Wtedy PDP dobrze go streszcza.
  • Krzyżujące się krzywe oznaczają, że efekt zależy od innych zmiennych. Pokoloruj je według podejrzanego moderatora.
  • Wysokość krzywej zależy od pozostałych cech osoby. O efekcie mówi jej kształt.

Przykład

W symulowanych danych 400 osób wynik testu zależał od stresu, strategii radzenia sobie i długości snu. Przy strategii zadaniowej wyższy stres podnosił wynik, przy unikowej go obniżał (siłę obu efektów ustawiono ręcznie, by interakcja była wyraźna; ziarno 753 nie było zmieniane). Las losowy z 500 drzew wyjaśnił 74% wariancji poza próbą bootstrapową (R² OOB = .74). PDP stresu jest prawie płaski: od stresu −2 do +2 prognoza zmienia się średnio o −2.02 pkt. Zwykła regresja bez interakcji daje b = −0.27. Krzywe ICE mówią coś innego: przy strategii zadaniowej prognoza rośnie średnio o 9.46 pkt, a przy unikowej spada o 11.31 pkt.

Na rysunku

Dwa panele o tej samej osi pionowej. A: wykres częściowej zależności prognozy od stresu – czarna linia prawie płaska, około 54 pkt. B: 60 krzywych ICE; ciągłe niebieskie linie osób ze strategią zadaniową rosną z około 50 do 63 pkt, przerywane pomarańczowe linie osób ze strategią unikową opadają z około 63 do 45 pkt, a czarna linia PDP biegnie poziomo między nimi
Rysunek 1. Wykres częściowej zależności (A) i krzywe ICE (B) dla stresu w lesie losowym. Obliczenia: R, pakiety ranger, ggplot2 i patchwork (dane symulowane, set.seed(753)).

Co widać. Sam PDP sugeruje, że stres nie ma znaczenia. Krzywe ICE rozchodzą się w dwie strony, a podział pokrywa się ze strategią radzenia sobie. Odchylenie standardowe indywidualnych zmian prognozy wynosi 10.89 pkt, choć średnia zmiana jest bliska zeru.

Na co uważać. Krzywe są łamane, bo las składa się z drzew i daje prognozy schodkowe. W symulacji prawdziwa zmiana wynosiła ±16 pkt, a las ją spłaszczył – częściowo przez uśrednianie, częściowo przez mało danych na krańcach.

Podpis do pracy:

Rysunek 1. Zależność prognozy wyniku testu od stresu w modelu lasu losowego. Uwaga. Panel A: wykres częściowej zależności (średnia prognoza przy ustawieniu wszystkim osobom tej samej wartości stresu). Panel B: krzywe ICE dla 60 losowo wybranych osób, linia ciągła – strategia zadaniowa, przerywana – unikowa; czarna linia to PDP. N = 400.
Szare krzywe ICE 60 osób dla snu od 4 do 9 godzin biegną niemal równolegle: płasko do około 5.5 godziny, potem rosną i od około 7 godzin znów są płaskie; czarna linia PDP rośnie od około 50 do 56 pkt
Rysunek 2. Krzywe ICE i PDP dla snu w tym samym modelu. Obliczenia: R, pakiety ranger i ggplot2 (dane symulowane).

Co widać. Sen działa w modelu addytywnie, więc krzywe są niemal równoległe. PDP rośnie o 6.11 pkt i dobrze streszcza wszystkie osoby: po wycentrowaniu krzywych w punkcie 4 h odchylenie standardowe zmiany wynosi tylko 1.74 pkt.

Na co uważać. Równoległe krzywe nie dowodzą braku interakcji z cechą, której nie było w modelu.

Podpis do pracy:

Rysunek 2. Zależność prognozy wyniku testu od długości snu w modelu lasu losowego. Uwaga. Szare linie – krzywe ICE dla 60 losowo wybranych osób; czarna linia – wykres częściowej zależności ze wszystkich osób. N = 400.

Kod obu rysunków jest w sekcji PDP i krzywe ICE w R. Rysunki na stronie powstały z tych samych obiektów z motywem serwisu (krój, siatka); dane, geometrie i skale są identyczne. Sposób odczytu samego PDP w pełnej analizie lasu pokazuje wpis Drzewa decyzyjne i lasy losowe.

Jak opisać w pracy

Kształt zależności prognozy od stresu oceniono na wykresie częściowej zależności i krzywych ICE (Goldstein i in., 2015). Wykres częściowej zależności był niemal płaski (zmiana o −2.02 pkt w zakresie stresu od −2 do 2), lecz krzywe ICE wskazały interakcję ze strategią radzenia sobie: przy strategii zadaniowej prognoza rosła średnio o 9.46 pkt, a przy unikowej malała o 11.31 pkt.

Na co uważać

  • Płaski PDP nie oznacza braku efektu. Przy interakcji przeciwne efekty mogą się znosić. Zawsze rysuj też krzywe ICE.
  • Nierealne kombinacje. Gdy predyktory są silnie skorelowane, siatka tworzy osoby, jakich nie ma w danych. Ogranicz siatkę do zakresu danych i pokaż rozkład predyktora pod osią.
  • Prognoza, nie przyczyna. Krzywa opisuje model. Na efekty przyczynowe w podgrupach są inne metody, np. lasy przyczynowe.
  • Model przeuczony daje poszarpane krzywe. Najpierw sprawdź go walidacją krzyżową (zob. przeuczenie).
Przykład reprodukowalny

PDP i krzywe ICE w R

Kod symuluje dane z interakcją, dopasowuje las losowy (ranger) i liczy krzywe ICE funkcją predict() na siatce 21 wartości predyktora; PDP to średnia krzywych. Na końcu buduje oba rysunki (obiekty p1 i p2).

Krzywe ICE, PDP i oba rysunki

Dane wejściowe: 400 osób; stres, strategia radzenia sobie (zadaniowa, unikowa), sen w godzinach i wynik testu (dane symulowane, set.seed(753), ziarno lasu 753).

Co odczytać: R² OOB, współczynnik stresu w regresji bez interakcji, zmianę PDP stresu, średnie zmiany w krzywych ICE w obu strategiach i rozrzut zmian dla stresu i snu.

R
# PDP i krzywe ICE dla lasu losowego – liczone ręcznie z predict()
suppressPackageStartupMessages({library(ranger); library(ggplot2); library(patchwork)})
kol <- c(zadaniowa = "#0072B2", unikowa = "#E69F00")    # Okabe–Ito; grupy różnią się też rodzajem linii
motyw <- theme_minimal(base_size = 13) +
  theme(panel.grid.minor = element_blank(), legend.position = "bottom")
set.seed(753)                                            # 400 osób, efekt stresu zależy od strategii
n <- 400
dane <- data.frame(stres = runif(n, -2, 2),              # stres (wynik standaryzowany)
                   strategia = factor(sample(c("zadaniowa", "unikowa"), n, replace = TRUE),
                                      levels = c("zadaniowa", "unikowa")),
                   sen = runif(n, 4, 9))                 # godziny snu
znak <- ifelse(dane$strategia == "zadaniowa", 1, -1)
dane$wynik <- 50 + 4 * znak * dane$stres + 6 * plogis(2 * (dane$sen - 6)) + rnorm(n, sd = 2)
las <- ranger(wynik ~ stres + strategia + sen, data = dane, num.trees = 500, mtry = 3, seed = 753)
ice <- function(model, dane, zmienna, siatka) {          # wiersz = osoba, kolumna = wartość z siatki
  sapply(siatka, function(v) { d <- dane; d[[zmienna]] <- v; predict(model, d)$predictions })
}
s_stres <- seq(-2, 2, length.out = 21)
s_sen <- seq(4, 9, length.out = 21)
ice_stres <- ice(las, dane, "stres", s_stres)
ice_sen <- ice(las, dane, "sen", s_sen)
pdp_stres <- colMeans(ice_stres)                         # PDP = średnia krzywych ICE
pdp_sen <- colMeans(ice_sen)
zmiana <- ice_stres[, 21] - ice_stres[, 1]               # zmiana prognozy od stresu −2 do +2 u każdej osoby
c_sen <- ice_sen - ice_sen[, 1]                          # krzywe ICE snu wycentrowane w punkcie 4 h
round(c(R2_OOB = las$r.squared,
        b_stres_lm = coef(lm(wynik ~ stres + strategia + sen, data = dane))[["stres"]],
        PDP_stres_zmiana = pdp_stres[21] - pdp_stres[1],
        PDP_stres_zakres = diff(range(pdp_stres)),
        PDP_sen_zakres = diff(range(pdp_sen))), 2)
round(tapply(zmiana, dane$strategia, mean), 2)           # średnia zmiana w każdej strategii
round(c(SD_zmiany_stres = sd(zmiana), SD_zmiany_sen = sd(c_sen[, 21])), 2)
# Rysunki: 60 losowo wybranych osób (krzywe ICE) i PDP ze wszystkich 400
pokaz <- sample(n, 60)
dlugie <- function(m, siatka, idx) data.frame(x = rep(siatka, each = length(idx)), y = c(m[idx, ]),
                                              osoba = rep(idx, length(siatka)),
                                              strategia = rep(dane$strategia[idx], length(siatka)))
d_ice <- dlugie(ice_stres, s_stres, pokaz)
d_sen <- dlugie(ice_sen, s_sen, pokaz)
zakres_y <- range(c(d_ice$y, d_sen$y))
pA <- ggplot(data.frame(x = s_stres, y = pdp_stres), aes(x, y)) +
  geom_line(linewidth = 1.6, colour = "black") + coord_cartesian(ylim = zakres_y) +
  labs(title = "A. Sam PDP", x = "Stres (z)", y = "Prognoza lasu (pkt)")
pB <- ggplot(d_ice, aes(x, y, group = osoba, colour = strategia, linetype = strategia)) +
  geom_line(alpha = 0.55, linewidth = 0.5) +
  geom_line(data = data.frame(x = s_stres, y = pdp_stres), aes(x, y), inherit.aes = FALSE,
            linewidth = 1.6, colour = "black") +
  scale_colour_manual(values = kol, name = "Strategia radzenia sobie") +
  scale_linetype_manual(values = c(zadaniowa = "solid", unikowa = "22"), name = "Strategia radzenia sobie") +
  coord_cartesian(ylim = zakres_y) +
  labs(title = "B. Krzywe ICE 60 osób i PDP (czarna)", x = "Stres (z)", y = "Prognoza lasu (pkt)")
p1 <- (pA + pB) & motyw
p2 <- ggplot(d_sen, aes(x, y, group = osoba)) +
  geom_line(alpha = 0.45, linewidth = 0.5, colour = "grey45") +
  geom_line(data = data.frame(x = s_sen, y = pdp_sen), aes(x, y), inherit.aes = FALSE,
            linewidth = 1.6, colour = "black") +
  coord_cartesian(ylim = zakres_y) +
  labs(title = "Sen: krzywe ICE 60 osób i PDP (czarna)", x = "Sen (godziny)", y = "Prognoza lasu (pkt)") +
  motyw
p1
p2
Wynik w R
          R2_OOB       b_stres_lm PDP_stres_zmiana PDP_stres_zakres 
            0.74            -0.27            -2.02             3.37 
  PDP_sen_zakres 
            6.11 
zadaniowa   unikowa 
     9.46    -11.31 
SD_zmiany_stres   SD_zmiany_sen 
          10.89            1.74 

Bibliografia oprogramowania

Wyniki pochodzą z uruchomienia pokazanego kodu w R 4.5.3. W pracy podaj wersje faktycznie użytych pakietów (sessionInfo()).

  1. R: R Core Team. (2026). R: A language and environment for statistical computing (Version 4.5.3) [Computer software]. R Foundation for Statistical Computing. https://www.R-project.org/
  2. ranger (wersja 0.18.0): Wright, M. N., & Ziegler, A. (2017). ranger: A fast implementation of random forests for high dimensional data in C++ and R. Journal of Statistical Software, 77(1), 1–17. https://doi.org/10.18637/jss.v077.i01
  3. ggplot2 (wersja 4.0.2): Wickham, H. (2016). ggplot2: Elegant graphics for data analysis. Springer. https://ggplot2.tidyverse.org
  4. patchwork (wersja 1.3.2): Pedersen, T. L. (2025). patchwork: The composer of plots [R package]. https://doi.org/10.32614/CRAN.package.patchwork

Najczęstsze pytania

Czym różni się PDP od krzywych ICE?

Krzywa ICE pokazuje, jak zmieniałaby się prognoza modelu dla jednej osoby, gdyby zmienić tylko wybrany predyktor. PDP to średnia wszystkich takich krzywych. Gdy krzywe są równoległe, PDP dobrze je streszcza; gdy się krzyżują, średnia gubi informację.

Czy wykres częściowej zależności pokazuje przyczynowy wpływ zmiennej?

Nie. Pokazuje, jak reaguje model, a nie ludzie. Las uczy się zależności obecnych w danych, także tych wynikających z zakłócania, więc krzywa opisuje prognozy, a nie skutki interwencji.

Jak policzyć PDP i krzywe ICE w R?

Wystarczy funkcja predict(). Kopiujesz dane, ustawiasz wszystkim tę samą wartość predyktora i zapisujesz prognozy – to jeden punkt każdej krzywej ICE. Powtarzasz dla kolejnych wartości z siatki, a średnia prognoz w każdym punkcie daje PDP.

Powiązane hasła

Poradniki, w których użyjesz tego pojęcia

Potrzebujesz wsparcia w analizie danych?

Wybierz ofertę dopasowaną do pracy dyplomowej albo profesjonalnego projektu naukowego.

Wyceń analizęOferta dla studentów

Bibliografia i dalsza literatura naukowa (APA 7)

  1. Breiman, L. (2001). Random forests. Machine Learning, 45(1), 5–32. https://doi.org/10.1023/a:1010933404324 ● Otwarty dostęp: pełny tekst
  2. Friedman, J. H. (2001). Greedy function approximation: A gradient boosting machine. The Annals of Statistics, 29(5), 1189–1232. https://doi.org/10.1214/aos/1013203451
  3. Goldstein, A., Kapelner, A., Bleich, J., & Pitkin, E. (2015). Peeking inside the black box: Visualizing statistical learning with plots of individual conditional expectation. Journal of Computational and Graphical Statistics, 24(1), 44–65. https://doi.org/10.1080/10618600.2014.907095 ● Otwarty dostęp: pełny tekst

Cytowania BibTeX

@article{breiman2001random, author={Breiman, Leo}, title={{Random forests}}, journal={Machine Learning}, year={2001}, volume={45}, number={1}, pages={5--32}, doi={10.1023/a:1010933404324}}
@article{friedman2001greedy, author={Friedman, Jerome H.}, title={{Greedy function approximation: A gradient boosting machine}}, journal={The Annals of Statistics}, year={2001}, volume={29}, number={5}, pages={1189--1232}, doi={10.1214/aos/1013203451}}
@article{goldstein2015peeking, author={Goldstein, Alex and Kapelner, Adam and Bleich, Justin and Pitkin, Emil}, title={{Peeking inside the black box: Visualizing statistical learning with plots of individual conditional expectation}}, journal={Journal of Computational and Graphical Statistics}, year={2015}, volume={24}, number={1}, pages={44--65}, doi={10.1080/10618600.2014.907095}}
R