Перейти к содержимому
Учи.Онлайн Выбрать школу
Статья

scikit-learn: классическое машинное обучение на Python — от первой модели до пайплайна

scikit-learn — бесплатная библиотека Python для классического машинного обучения на табличных данных. С её помощью заполняют пропуски и кодируют признаки, обучают модели регрессии, классификации и кластеризации, проверяют их кросс-валидацией, подбирают гиперпараметры, считают метрики и сохраняют готовую модель в файл. Все алгоритмы в ней устроены одинаково, поэтому, освоив одну модель, вы умеете пользоваться остальными. Для старта нужны Python, pandas и базовая статистика. Дальше — учебный проект от сырой таблицы до пайплайна, порядок освоения, ошибки новичков, связь с доходом и выбор обучения.

Автор: редакция Учи.ОнлайнОтветственный редактор: Дмитрий Игнатьев
Содержание
Иллюстрация к статье: scikit-learn: классическое машинное обучение на Python — от первой модели до пайплайна

Одинаковое устройство — главное, что даёт библиотека. У любой модели есть метод fit, который учится на данных, и метод predict, который выдаёт прогноз; у любого шага подготовки — fit и transform. Чтобы заменить логистическую регрессию на случайный лес, достаточно поменять одну строку, а загрузка данных, проверка и метрики остаются прежними. Ждать от scikit-learn нейросетей и ускорения на видеокарте не стоит: основные алгоритмы работают на процессоре и рассчитаны на таблицы, которые помещаются в оперативную память.

Что делает библиотека и где её граница

Типичные задачи — понять, закроют ли заявку в срок (классификация), сколько дней займёт ремонт (регрессия), какие клиенты похожи (кластеризация), какие транзакции необычны (поиск аномалий). На входе таблица: строки — объекты, столбцы — признаки.

Граница проходит там, где данные перестают быть таблицей: снимки, звук и длинные тексты обучают в PyTorch, о нём на сайте есть отдельная статья. Если категориальных признаков много и важна каждая доля процента качества, берут CatBoost или LightGBM: у них есть классы с теми же fit и predict, и их встраивают в пайплайн scikit-learn. А для p-значений коэффициентов и проверки гипотез удобнее statsmodels: scikit-learn ориентирован на качество прогноза, а не на статистический вывод.

Как устроен интерфейс: оценщики, трансформеры, пайплайн

Оценщик (estimator) — всё, у чего есть fit. Классификаторы умеют ещё predict_proba — вероятность каждого класса. Трансформеры меняют данные: SimpleImputer заполняет пропуски, OneHotEncoder превращает категории в столбцы из нулей и единиц, StandardScaler приводит числа к общему масштабу. Настройки задают при создании объекта, а выученное хранится в атрибутах с подчёркиванием в конце: coef_, feature_importances_.

Pipeline соединяет шаги в цепочку, которая ведёт себя как одна модель: fit обучает все шаги по очереди, predict прогоняет новые данные через ту же подготовку. ColumnTransformer обрабатывает разные столбцы по-разному: числа масштабирует, категории кодирует. Без них подготовку данных повторяют вручную при каждом прогнозе, и она расходится с обучающей.

Учебный пример: закроют ли заявку в срок

Ситуация учебная. Сервисная компания хочет заранее видеть заявки на ремонт, которые рискуют не уложиться в три дня, чтобы диспетчер переназначал их первыми. В выгрузке есть расстояние до клиента, число позиций, час создания, район, тип заявки и отметка о сроке; в районе бывают пропуски, просроченных заявок около 15 %. Аналитик откладывает пятую часть таблицы как финальный тест, а на остальном собирает пайплайн:

num = ["distance_km", "items", "hour"]
cat = ["district", "request_type"]
prep = ColumnTransformer([
    ("num", make_pipeline(SimpleImputer(strategy="median"), StandardScaler()), num),
    ("cat", OneHotEncoder(handle_unknown="ignore"), cat),
])
model = Pipeline([("prep", prep), ("clf", LogisticRegression(max_iter=1000))])
scores = cross_validate(model, X_train, y_train, cv=5, scoring=["roc_auc", "recall"])

Силу регуляризации он подбирает через GridSearchCV, обращаясь к параметру по имени шага с двойным подчёркиванием: clf__C. Ту же схему повторяет с HistGradientBoostingClassifier, который сам справляется с пропусками. Лучший вариант один раз проверяет на отложенном тесте и сохраняет пайплайн целиком — получается файл, который принимает сырую строку заявки и возвращает вероятность просрочки.

С чего начать и в каком порядке осваивать

Порядок идёт от одной модели к целому пайплайну, и каждый шаг опирается на предыдущий: подбирать гиперпараметры бессмысленно, пока нет честной проверки, а сохранять модель — пока предобработка живёт отдельно от неё.

  1. Python, NumPy и pandas: загрузить таблицу, выбрать столбцы, найти пропуски.
  2. Первая модель на встроенном наборе вроде load_breast_cancer: train_test_split, fit, predict, score.
  3. Предобработка, затем ColumnTransformer и Pipeline.
  4. Кросс-валидация и метрики под задачу.
  5. Подбор гиперпараметров через GridSearchCV и RandomizedSearchCV.
  6. Случайный лес, градиентный бустинг, сравнение с CatBoost.
  7. Сохранение и загрузка пайплайна.

Для практики хватит руководства и галереи примеров на scikit-learn.org, а наборы данных удобно брать через fetch_openml: повторите учебный пример на таблице с категориальными столбцами и сравните три модели через cross_validate.

С наставником и проектами этот путь можно пройти на курсе «Специалист по Data Science» Яндекс Практикума: после SQL, Python и исследовательского анализа идут регрессия, метод опорных векторов, деревья, случайный лес, бустинг и обучение без учителя, а scikit-learn назван в стеке рядом с LightGBM и XGBoost. Предусмотрены 17 проектов; базовый тариф рассчитан на 13 месяцев.

Кросс-валидация и подбор параметров

Кросс-валидация делит данные на несколько частей и по очереди проверяет модель на каждой, поэтому оценка меньше зависит от случайного разбиения. В руководстве по кросс-валидации (раздел 3.1) есть деталь, которую новички упускают: если передать в cv число, для классификатора используется StratifiedKFold, для остальных моделей — KFold, и строки по умолчанию не перемешиваются. Если таблица отсортирована, например, по сумме заказа, части окажутся непохожими друг на друга.

Перемешивание помогает не всегда. Для данных во времени документация рекомендует TimeSeriesSplit, где проверка идёт на более поздних наблюдениях. Если у клиента несколько заявок, нужен GroupKFold, иначе один клиент попадёт и в обучение, и в проверку. И ещё: best_score_ из GridSearchCV слегка оптимистичен, ведь параметры выбраны на тех же частях, поэтому число для отчёта берут на отложенном тесте.

Метрики: что на самом деле значит score

Метод score у классификатора возвращает долю верных ответов, у регрессора — коэффициент детерминации R². При 15 % просрочек доля верных ответов почти ничего не говорит, поэтому в примере смотрят ROC-AUC и полноту, а confusion_matrix показывает, где модель ошибается. Бинарный классификатор в predict ставит порог 0,5 на вероятность; если диспетчер успевает разобрать лишь треть заявок, порог подбирают под эту загрузку с помощью TunedThresholdClassifierCV.

Как сохранить модель и не потерять её при обновлении

Обученный пайплайн обычно сохраняют через joblib или pickle. В разделе 11 «Model persistence» руководства scikit-learn 1.9 прямо сказано, что поддерживаемого способа загрузить модель, обученную в другой версии scikit-learn, нет. Файл иногда открывается, но такое использование названо неподдерживаемым и нежелательным: результаты могут отличаться от прежних, а процесс Python — аварийно завершиться. При несовпадении версий библиотека выдаёт InconsistentVersionWarning с исходной версией.

Поэтому документация советует хранить рядом с моделью ссылку на неизменяемый снимок обучающих данных, код обучения, версии scikit-learn и зависимостей и оценку кросс-валидации. После переобучения в новом окружении оценка должна попасть в тот же диапазон — так проверяют, что модель восстановлена верно. На практике версии фиксируют в lock-файле, а обновление библиотеки на сервере планируют вместе с переобучением. Отдельное предупреждение — о безопасности: pickle-файл при загрузке может выполнить произвольный код, поэтому открывать его можно только из проверенного источника; как альтернативы названы skops.io и ONNX.

Как модель живёт дальше — в API, Docker-контейнере, с учётом экспериментов в MLflow — разбирают на инженерных программах. На курсе «Инженер машинного обучения с нуля» Нетологии scikit-learn стоит в стеке рядом с PyTorch, Docker, MLflow и Airflow, а программа ведёт от Python и SQL через классификацию и регрессию к API и CI/CD. Сроки обучения расходятся — «от 14 месяцев» или 19 месяцев. Точную длительность стоит уточнить у школы.

Открыть курс «Инженер машинного обучения»

Где новички ошибаются

Большинство ошибок не вызывает исключений: код работает, а результат неверен. Поэтому перед тем как показывать цифры, стоит пройтись по короткому списку.

  • OneHotEncoder без handle_unknown="ignore" падает на новой категории, например на районе, которого не было при обучении.
  • Шаг подготовки заново обучают на тесте через fit_transform вместо transform.
  • Логистическую регрессию и метод опорных векторов запускают без масштабирования; деревьям оно не нужно.
  • Не фиксируют random_state, и результат нельзя воспроизвести.
  • Сохраняют модель без пайплайна, и подготовку данных при прогнозе пишут заново.

На курсе «Data Scientist + ИИ» Skillbox этим темам отведён блок машинного обучения: регрессия, деревья, случайный лес, SVM, кластеризация, кросс-валидация и метрики, там же знакомство со Scikit-learn, TensorFlow и PyTorch. Программа рассчитана на 12 месяцев; какой документ выдают, на странице обзора не сказано.

Открыть курс «Профессия Data scientist»

Как навык влияет на доход

Отдельной надбавки за scikit-learn открытая статистика не показывает: библиотека стоит в требованиях вакансий дата-сайентиста, аналитика данных и ML-инженера одной строкой рядом с Python, SQL и pandas. Навык влияет на доход через задачи: прогноз оттока и спроса, скоринг, сегментацию клиентов вместо одних сводных таблиц.

Для ориентира: по отчёту Хабр Карьеры за первое полугодие 2026 года, построенному на 45 226 фактических окладах из калькулятора зарплат, медиана аналитиков в IT — 220 000 ₽ в Москве, 180 000 ₽ в Санкт-Петербурге и 160 000 ₽ в других регионах. Это все уровни и виды аналитиков, отдельных цифр по дата-сайентистам в отчёте нет. Для своей ситуации сравните медианы вакансий своего региона с машинным обучением в обязанностях и без него.

Как выбрать обучение

Проверьте, есть ли в программе Pipeline и ColumnTransformer, выбор схемы кросс-валидации под данные, подбор порога и проект, где модель сохраняют и запускают заново. Тому, кто уже пишет на Python, длинная профессия с нуля может оказаться лишней: хватит документации, своих проектов и разбора кода с коллегой.

Сравнить школы по формату и цене поможет рейтинг онлайн-школ по Data Science — он охватывает всё направление, а не только обучение scikit-learn. Признак готовности идти дальше — вы собрали пайплайн для своей таблицы, проверили его кросс-валидацией и можете объяснить выбор метрики. Тогда следующим шагом станет CatBoost для табличных соревнований или PyTorch для изображений и текстов.