Корреляция и причинность
Задача «соотнесите коэффициент корреляции и диаграмму рассеяния» встречается постоянно. А вопрос «можно ли сказать, что X влияет на Y» — в каждой задаче с данными.
Коэффициент корреляции Пирсона
r = Σ(xᵢ − x̄)(yᵢ − ȳ) / √( Σ(xᵢ − x̄)² · Σ(yᵢ − ȳ)² )
- −1 ≤ r ≤ 1.
- Знак — направление связи: r > 0 — с ростом X растёт Y.
- |r| — насколько точно точки ложатся на прямую. Наклон прямой тут ни при чём.
- r не меняется, если X или Y сдвинуть или умножить на положительное число (перевести рубли в тысячи рублей). При умножении на отрицательное число знак r меняется.
- r² — доля разброса Y, которую объясняет линейная зависимость от X (в парной регрессии r² = R²).
Как сопоставить r и картинку
| |r| | Как выглядит облако точек |
|---|---|
| 0,9–1 | узкая «сосиска» почти по прямой |
| 0,6–0,8 | вытянутый эллипс, наклон хорошо виден |
| 0,3–0,5 | широкое облако, наклон угадывается |
| 0–0,15 | круглое облако или явная нелинейность |
Алгоритм
- Разделите графики по знаку: облако идёт вверх или вниз.
- Внутри каждой группы упорядочьте графики по тому, насколько облако узкое.
- Самое узкое облако получает самый большой |r|.
Где корреляция обманывает
- Нелинейная связь. Если точки лежат на параболе, r ≈ 0, хотя связь идеальная. r = 0 значит «нет линейной связи».
- Выбросы. Одна далёкая точка может создать сильную корреляцию на пустом месте или уничтожить настоящую.
- Смесь групп. Внутри каждой группы связь может быть отрицательной, а в объединённых данных — положительной (см. парадокс Симпсона).
- Узкий диапазон. Если оставить только отличников, корреляция «оценка ~ часы занятий» ослабнет.
Корреляция Спирмена считается по рангам. Она ловит любую монотонную связь и меньше реагирует на выбросы.
Корреляция ≠ причинность
Если X и Y связаны, возможны такие объяснения:
- X влияет на Y.
- Обратная причинность: Y влияет на X. В богатых странах много врачей, потому что страна богатая, а не наоборот.
- Общий скрытый фактор (конфаундер) влияет на оба. Продажи мороженого и число утоплений растут из-за жары.
- Отбор: из-за того, как набрана выборка, появляется связь, которой нет во всей совокупности.
- Случайность: если перебрать много пар переменных, какие-то окажутся связаны случайно.
Как всё-таки проверять, что X влияет на Y, разобрано на странице про причинный анализ.
Ещё примеры
Корреляция между ростом в сантиметрах и весом равна 0,7. Чему она будет равна, если рост перевести в метры?
Тоже 0,7: от масштаба r не зависит.
В городах, где больше пожарных, больше ущерб от пожаров. Значит ли это, что пожарные вредят?
Нет. Скорее всего, есть общий фактор: размер города и число пожаров. Возможна и обратная связь: где пожаров больше, туда направляют больше пожарных.