Задание 1.2 · входит в 5 баллов

Дерево для регрессии

То же дерево, но ответ теперь число: сколько лет в среднем живут в стране. Главное здесь не код (меняются две строки), а честная проверка и выбор метрик.

Данные

2307 строк: страна и год (2000-2019, 179 стран). Пропусков и дубликатов нет.

Предобработка и почему так

Масштабировать и логарифмировать не нужно: дерево задаёт вопрос «x < t?», а если все значения, например, поделить на 1000, порядок не изменится и деления будут те же.

life_clean = life.drop(columns=['index', 'Country Name', 'Country Code'])
life_clean['Year'] = life_clean['Year'].str[:4].astype(int)  # '2003 [YR2003]' -> 2003
life_X = life_clean.drop(columns='Life_Expectancy')
life_y = life_clean['Life_Expectancy']
life_groups = life['Country Code']

1. drop(columns=[...]) убирает столбцы.
2. .str[:4] первые 4 символа текста («2003»), .astype(int) превращает в число.
3. life_X признаки, life_y цель.
4. life_groups код страны, нужен только чтобы делить на train/test по странам.

Честная проверка: делим по странам

У каждой страны до 19 строк, соседние годы почти одинаковы. Если делить строки случайно, в test попадёт «Франция 2010», а в train «Франция 2009 и 2011»: модель просто узнаёт страну.

splitter = GroupShuffleSplit(n_splits=1, test_size=0.25, random_state=42)
train_idx, test_idx = next(splitter.split(life_X, life_y, groups=life_groups))

1. GroupShuffleSplit делит не строки, а группы (страны): 25% стран целиком уходят в test.
2. next(...) берём первое (и единственное) разбиение. Вышло: train 1687 строк из 134 стран, test 620 строк из 45 стран.

Код: TreeRegressor

class TreeRegressor(Tree):
    def __init__(self, max_depth=None, min_samples_leaf=1, max_leaves=None, min_impurity=0.0):
        super().__init__('mse', max_depth, min_samples_leaf, max_leaves, min_impurity)

    def leaf_value(self, y):
        return np.mean(y)

1. class TreeRegressor(Tree) наследование: берём всё от Tree и меняем только нужное.
2. super().__init__('mse', ...) вызываем конструктор Tree, но беспорядок теперь MSE.
3. leaf_value ответ листа: не самый частый класс, а среднее.

Всё остальное (поиск порога, IG, остановка, очередь листьев, predict) работает без изменений: IG с MSE это «насколько уменьшилась дисперсия».

Критерии остановки с поправкой на регрессию

Purity в регрессии значит «все числа в листе равны» (MSE = 0). На непрерывных числах так бывает почти только в листе из одного объекта: вышло 1673 листа на 1687 строк, дерево зазубрило выборку. Поэтому добавлен вариант с допуском: не делить лист, если MSE ≤ 1, то есть разброс около ±1 года.

Поиграй: глубина и переобучение

Белые точки: train (по ним учится дерево). Голубые: test (их дерево не видит). Двигай глубину и смотри на две ошибки.

Метрики (нужно минимум 3, взяли 4)

MAE

Средняя ошибка в годах: среднее |правда - прогноз|. Самая понятная.

RMSE

Корень из среднего квадрата ошибки, тоже в годах. Сильнее наказывает крупные промахи.

MAPE

Средняя ошибка в процентах от правильного ответа.

R²

Доля разброса, которую объясняет модель: 0 = как «всегда отвечать среднее», 1 = идеально.

• Лучшее дерево глубины 5: ошибка в среднем 3.2 года (5%), объясняет 69% разброса.
• RMSE (4.97) заметно больше MAE (3.17): есть отдельные страны с ошибкой больше 10 лет, они видны на графике далеко от красной линии.
• С sklearn совпадает число листьев везде, а при 5 листьях совпадают и все метрики.

Вопросы на защите