Материалы курса

Машинное обучение и анализ данных

Задачи ML, этапы работы с данными, признаки, визуализация и базовый EDA.

EDA и уменьшение размерности

Распределения, статистический анализ, стандартизация, проклятие размерности и PCA.

EDA, PCA и t-SNE на примерах

Повторение на покемонах и рукописных цифрах: распределения, стандартизация, уменьшение размерности. В HTML-презентации пять анимаций PCA: отмечены справа сверху, запуск кнопкой «Анимация» или пробелом.

Распакуйте ZIP целиком и откройте ноутбук; инструкция и зависимости внутри. В PDF показаны статичные кадры.

ML-пайплайн и оценка качества

kNN, веса и ядра. Train/validation/test, кросс-валидация и утечки данных. Матрица ошибок, accuracy, precision/recall, F1, ROC-AUC и PR. Дисбаланс классов и SMOTE. Поиск и RAG.

Метрики качества и линейная регрессия

Порог классификации и ROC/PR, метрики регрессии и R². Линейная модель, градиентный спуск и регуляризация Ridge/Lasso.

Деревья решений и важность признаков

Правила и обучение деревьев, Gini и энтропия. Остановка, подрезка и переобучение. Регрессионные деревья. MDI и permutation importance: расчёты, примеры и ограничения.

Ансамбли и бустинг

Bootstrap, бэггинг, случайный лес и OOB. Градиентный бустинг, регуляризация и early stopping. XGBoost, LightGBM и CatBoost: кодирование категорий. Стекинг. Bias–variance tradeoff.

Кластеризация и логистическая регрессия

K-means, DBSCAN и HDBSCAN, иерархическая кластеризация и silhouette. Логистическая регрессия как нейрон и нелинейные активации.

Введение в нейронные сети

Логистическая регрессия на примере, сигмоида и граница решения. Полносвязные сети, функции активации и потерь, backpropagation, оптимизация и регуляризация.