Co to jest PDP i krzywe ICE?
Wykres częściowej zależności (ang. partial dependence plot, PDP) pokazuje, jak średnio zmienia się prognoza modelu, gdy zmieniamy jeden predyktor, a pozostałe zostawiamy takie, jakie są w danych. Friedman (2001) przedstawił takie narzędzia do interpretacji modeli złożonych z wielu drzew regresyjnych. Służą tam, gdzie model nie ma czytelnych współczynników, np. w lesie losowym (Breiman, 2001). Uzupełniają ważność permutacyjną, która mówi, czy zmienna pomaga, ale nie – jak. Krzywa ICE (ang. individual conditional expectation) to ten sam rachunek dla jednej osoby. PDP jest średnią wszystkich krzywych ICE. Goldstein i in. (2015) zaproponowali krzywe ICE, bo przy silnych interakcjach średnia krzywa może ukryć to, co model naprawdę robi.
Jak czytać wykres
- Oś pozioma to wartości predyktora z siatki, a oś pionowa to prognoza modelu, nie obserwowany wynik.
- Równoległe krzywe ICE oznaczają efekt podobny u wszystkich. Wtedy PDP dobrze go streszcza.
- Krzyżujące się krzywe oznaczają, że efekt zależy od innych zmiennych. Pokoloruj je według podejrzanego moderatora.
- Wysokość krzywej zależy od pozostałych cech osoby. O efekcie mówi jej kształt.
Przykład
W symulowanych danych 400 osób wynik testu zależał od stresu, strategii radzenia sobie i długości snu. Przy strategii zadaniowej wyższy stres podnosił wynik, przy unikowej go obniżał (siłę obu efektów ustawiono ręcznie, by interakcja była wyraźna; ziarno 753 nie było zmieniane). Las losowy z 500 drzew wyjaśnił 74% wariancji poza próbą bootstrapową (R² OOB = .74). PDP stresu jest prawie płaski: od stresu −2 do +2 prognoza zmienia się średnio o −2.02 pkt. Zwykła regresja bez interakcji daje b = −0.27. Krzywe ICE mówią coś innego: przy strategii zadaniowej prognoza rośnie średnio o 9.46 pkt, a przy unikowej spada o 11.31 pkt.
Na rysunku
set.seed(753)).Co widać. Sam PDP sugeruje, że stres nie ma znaczenia. Krzywe ICE rozchodzą się w dwie strony, a podział pokrywa się ze strategią radzenia sobie. Odchylenie standardowe indywidualnych zmian prognozy wynosi 10.89 pkt, choć średnia zmiana jest bliska zeru.
Na co uważać. Krzywe są łamane, bo las składa się z drzew i daje prognozy schodkowe. W symulacji prawdziwa zmiana wynosiła ±16 pkt, a las ją spłaszczył – częściowo przez uśrednianie, częściowo przez mało danych na krańcach.
Podpis do pracy:
Co widać. Sen działa w modelu addytywnie, więc krzywe są niemal równoległe. PDP rośnie o 6.11 pkt i dobrze streszcza wszystkie osoby: po wycentrowaniu krzywych w punkcie 4 h odchylenie standardowe zmiany wynosi tylko 1.74 pkt.
Na co uważać. Równoległe krzywe nie dowodzą braku interakcji z cechą, której nie było w modelu.
Podpis do pracy:
Kod obu rysunków jest w sekcji PDP i krzywe ICE w R. Rysunki na stronie powstały z tych samych obiektów z motywem serwisu (krój, siatka); dane, geometrie i skale są identyczne. Sposób odczytu samego PDP w pełnej analizie lasu pokazuje wpis Drzewa decyzyjne i lasy losowe.
Jak opisać w pracy
Na co uważać
- Płaski PDP nie oznacza braku efektu. Przy interakcji przeciwne efekty mogą się znosić. Zawsze rysuj też krzywe ICE.
- Nierealne kombinacje. Gdy predyktory są silnie skorelowane, siatka tworzy osoby, jakich nie ma w danych. Ogranicz siatkę do zakresu danych i pokaż rozkład predyktora pod osią.
- Prognoza, nie przyczyna. Krzywa opisuje model. Na efekty przyczynowe w podgrupach są inne metody, np. lasy przyczynowe.
- Model przeuczony daje poszarpane krzywe. Najpierw sprawdź go walidacją krzyżową (zob. przeuczenie).
PDP i krzywe ICE w R
Kod symuluje dane z interakcją, dopasowuje las losowy (ranger) i liczy krzywe ICE funkcją predict() na siatce 21 wartości predyktora; PDP to średnia krzywych. Na końcu buduje oba rysunki (obiekty p1 i p2).
Krzywe ICE, PDP i oba rysunki
R
# PDP i krzywe ICE dla lasu losowego – liczone ręcznie z predict()
suppressPackageStartupMessages({library(ranger); library(ggplot2); library(patchwork)})
kol <- c(zadaniowa = "#0072B2", unikowa = "#E69F00") # Okabe–Ito; grupy różnią się też rodzajem linii
motyw <- theme_minimal(base_size = 13) +
theme(panel.grid.minor = element_blank(), legend.position = "bottom")
set.seed(753) # 400 osób, efekt stresu zależy od strategii
n <- 400
dane <- data.frame(stres = runif(n, -2, 2), # stres (wynik standaryzowany)
strategia = factor(sample(c("zadaniowa", "unikowa"), n, replace = TRUE),
levels = c("zadaniowa", "unikowa")),
sen = runif(n, 4, 9)) # godziny snu
znak <- ifelse(dane$strategia == "zadaniowa", 1, -1)
dane$wynik <- 50 + 4 * znak * dane$stres + 6 * plogis(2 * (dane$sen - 6)) + rnorm(n, sd = 2)
las <- ranger(wynik ~ stres + strategia + sen, data = dane, num.trees = 500, mtry = 3, seed = 753)
ice <- function(model, dane, zmienna, siatka) { # wiersz = osoba, kolumna = wartość z siatki
sapply(siatka, function(v) { d <- dane; d[[zmienna]] <- v; predict(model, d)$predictions })
}
s_stres <- seq(-2, 2, length.out = 21)
s_sen <- seq(4, 9, length.out = 21)
ice_stres <- ice(las, dane, "stres", s_stres)
ice_sen <- ice(las, dane, "sen", s_sen)
pdp_stres <- colMeans(ice_stres) # PDP = średnia krzywych ICE
pdp_sen <- colMeans(ice_sen)
zmiana <- ice_stres[, 21] - ice_stres[, 1] # zmiana prognozy od stresu −2 do +2 u każdej osoby
c_sen <- ice_sen - ice_sen[, 1] # krzywe ICE snu wycentrowane w punkcie 4 h
round(c(R2_OOB = las$r.squared,
b_stres_lm = coef(lm(wynik ~ stres + strategia + sen, data = dane))[["stres"]],
PDP_stres_zmiana = pdp_stres[21] - pdp_stres[1],
PDP_stres_zakres = diff(range(pdp_stres)),
PDP_sen_zakres = diff(range(pdp_sen))), 2)
round(tapply(zmiana, dane$strategia, mean), 2) # średnia zmiana w każdej strategii
round(c(SD_zmiany_stres = sd(zmiana), SD_zmiany_sen = sd(c_sen[, 21])), 2)
# Rysunki: 60 losowo wybranych osób (krzywe ICE) i PDP ze wszystkich 400
pokaz <- sample(n, 60)
dlugie <- function(m, siatka, idx) data.frame(x = rep(siatka, each = length(idx)), y = c(m[idx, ]),
osoba = rep(idx, length(siatka)),
strategia = rep(dane$strategia[idx], length(siatka)))
d_ice <- dlugie(ice_stres, s_stres, pokaz)
d_sen <- dlugie(ice_sen, s_sen, pokaz)
zakres_y <- range(c(d_ice$y, d_sen$y))
pA <- ggplot(data.frame(x = s_stres, y = pdp_stres), aes(x, y)) +
geom_line(linewidth = 1.6, colour = "black") + coord_cartesian(ylim = zakres_y) +
labs(title = "A. Sam PDP", x = "Stres (z)", y = "Prognoza lasu (pkt)")
pB <- ggplot(d_ice, aes(x, y, group = osoba, colour = strategia, linetype = strategia)) +
geom_line(alpha = 0.55, linewidth = 0.5) +
geom_line(data = data.frame(x = s_stres, y = pdp_stres), aes(x, y), inherit.aes = FALSE,
linewidth = 1.6, colour = "black") +
scale_colour_manual(values = kol, name = "Strategia radzenia sobie") +
scale_linetype_manual(values = c(zadaniowa = "solid", unikowa = "22"), name = "Strategia radzenia sobie") +
coord_cartesian(ylim = zakres_y) +
labs(title = "B. Krzywe ICE 60 osób i PDP (czarna)", x = "Stres (z)", y = "Prognoza lasu (pkt)")
p1 <- (pA + pB) & motyw
p2 <- ggplot(d_sen, aes(x, y, group = osoba)) +
geom_line(alpha = 0.45, linewidth = 0.5, colour = "grey45") +
geom_line(data = data.frame(x = s_sen, y = pdp_sen), aes(x, y), inherit.aes = FALSE,
linewidth = 1.6, colour = "black") +
coord_cartesian(ylim = zakres_y) +
labs(title = "Sen: krzywe ICE 60 osób i PDP (czarna)", x = "Sen (godziny)", y = "Prognoza lasu (pkt)") +
motyw
p1
p2Wynik w R
R2_OOB b_stres_lm PDP_stres_zmiana PDP_stres_zakres
0.74 -0.27 -2.02 3.37
PDP_sen_zakres
6.11
zadaniowa unikowa
9.46 -11.31
SD_zmiany_stres SD_zmiany_sen
10.89 1.74 Bibliografia oprogramowania
Wyniki pochodzą z uruchomienia pokazanego kodu w R 4.5.3. W pracy podaj wersje faktycznie użytych pakietów (sessionInfo()).
- R: R Core Team. (2026). R: A language and environment for statistical computing (Version 4.5.3) [Computer software]. R Foundation for Statistical Computing. https://www.R-project.org/
- ranger (wersja 0.18.0): Wright, M. N., & Ziegler, A. (2017). ranger: A fast implementation of random forests for high dimensional data in C++ and R. Journal of Statistical Software, 77(1), 1–17. https://doi.org/10.18637/jss.v077.i01
- ggplot2 (wersja 4.0.2): Wickham, H. (2016). ggplot2: Elegant graphics for data analysis. Springer. https://ggplot2.tidyverse.org
- patchwork (wersja 1.3.2): Pedersen, T. L. (2025). patchwork: The composer of plots [R package]. https://doi.org/10.32614/CRAN.package.patchwork
Najczęstsze pytania
Czym różni się PDP od krzywych ICE?
Krzywa ICE pokazuje, jak zmieniałaby się prognoza modelu dla jednej osoby, gdyby zmienić tylko wybrany predyktor. PDP to średnia wszystkich takich krzywych. Gdy krzywe są równoległe, PDP dobrze je streszcza; gdy się krzyżują, średnia gubi informację.
Czy wykres częściowej zależności pokazuje przyczynowy wpływ zmiennej?
Nie. Pokazuje, jak reaguje model, a nie ludzie. Las uczy się zależności obecnych w danych, także tych wynikających z zakłócania, więc krzywa opisuje prognozy, a nie skutki interwencji.
Jak policzyć PDP i krzywe ICE w R?
Wystarczy funkcja predict(). Kopiujesz dane, ustawiasz wszystkim tę samą wartość predyktora i zapisujesz prognozy – to jeden punkt każdej krzywej ICE. Powtarzasz dla kolejnych wartości z siatki, a średnia prognoz w każdym punkcie daje PDP.
Powiązane hasła
Poradniki, w których użyjesz tego pojęcia
Drzewa decyzyjne i lasy losowe
CART i przycinanie w rpart, las losowy w ranger, ważność permutacyjna, zależność cząstkowa, walidacja na nowych danych i wzór opisu.
Czytaj →PoradnikNieliniowe zależności: splajny i GAM
Podział na grupy, parabola, splajn i GAM na jednym zbiorze: edf, REML, wybór k, diagnostyka, wykres krzywej i wzór opisu w R.
Czytaj →PoradnikInterpretacja modelu: ważność, PDP, ICE i SHAP
Wypożyczalnia aut, 8000 rezerwacji: ważność permutacyjna, PDP i ICE, dokładne SHAP jako karta wyjaśnienia, skorelowane cechy i przyczynowość – pięć rysunków z kodem R.
Czytaj →Potrzebujesz wsparcia w analizie danych?
Wybierz ofertę dopasowaną do pracy dyplomowej albo profesjonalnego projektu naukowego.
Wyceń analizęOferta dla studentówBibliografia i dalsza literatura naukowa (APA 7)
- Breiman, L. (2001). Random forests. Machine Learning, 45(1), 5–32. https://doi.org/10.1023/a:1010933404324 ● Otwarty dostęp: pełny tekst
- Friedman, J. H. (2001). Greedy function approximation: A gradient boosting machine. The Annals of Statistics, 29(5), 1189–1232. https://doi.org/10.1214/aos/1013203451
- Goldstein, A., Kapelner, A., Bleich, J., & Pitkin, E. (2015). Peeking inside the black box: Visualizing statistical learning with plots of individual conditional expectation. Journal of Computational and Graphical Statistics, 24(1), 44–65. https://doi.org/10.1080/10618600.2014.907095 ● Otwarty dostęp: pełny tekst
Cytowania BibTeX
@article{breiman2001random, author={Breiman, Leo}, title={{Random forests}}, journal={Machine Learning}, year={2001}, volume={45}, number={1}, pages={5--32}, doi={10.1023/a:1010933404324}}@article{friedman2001greedy, author={Friedman, Jerome H.}, title={{Greedy function approximation: A gradient boosting machine}}, journal={The Annals of Statistics}, year={2001}, volume={29}, number={5}, pages={1189--1232}, doi={10.1214/aos/1013203451}}@article{goldstein2015peeking, author={Goldstein, Alex and Kapelner, Adam and Bleich, Justin and Pitkin, Emil}, title={{Peeking inside the black box: Visualizing statistical learning with plots of individual conditional expectation}}, journal={Journal of Computational and Graphical Statistics}, year={2015}, volume={24}, number={1}, pages={44--65}, doi={10.1080/10618600.2014.907095}}