Нейросети в кибербезопасности: разбор логов, алерты SOC, оценка угроз и чего нельзя отдавать ИИ

Самое частое заблуждение — считать модель источником сведений об угрозах. Она не видит вашу SIEM и не обращается к базам репутации. Когда её просят «обогатить» инцидент, она достраивает картину правдоподобными деталями: называет группировку, приписывает IP-адресу «известную вредоносную активность», добавляет домен, которого не было в журнале. Поэтому навык строится вокруг одного вопроса к каждой строке ответа: на какое событие из моих данных она опирается?

Какие задачи SOC можно поручить модели

Лучше всего модель справляется там, где результат легко проверить. Она переводит сырой алерт в понятный пересказ: какой хост, какой процесс, чем поведение отличается от обычного. Расшифровывает команду PowerShell с закодированным аргументом из журнала — а аналитик проверяет декодирование в CyberChef.

Вторая группа — текст вокруг инцидента. Модель раскладывает по полям карточки собранные аналитиком сведения, превращает заметки дежурного в хронологию, пишет отчёт для руководства без жаргона. При оценке угроз она выделяет из длинного отчёта о новой кампании техники ATT&CK, чтобы вы проверили, какие из них ваш мониторинг вообще видит. И набрасывает черновик правила Sigma или запроса для вашей SIEM, который потом тестируют.

Хуже всего нейросеть работает с тем, чего не видит: топологией сети, обычным поведением серверов, исключениями, о которых договорилась команда. Устройство SIEM мы разбирали в статье о SIEM и Wazuh, работу с журналами со стороны эксплуатации — в материале о нейросетях для DevOps-инженера и сисадмина; здесь речь о взгляде защитника.

Учебный пример: ночной вход и правило пересылки почты

Ситуация учебная. Ночью SIEM поднимает два связанных алерта: вход в почту бухгалтера с IP-адреса из другой страны и через несколько минут — правило, которое пересылает письма со словом «счёт» на внешний адрес. Аналитик заменяет ФИО, адреса и внутренние имена условными (user_01, host_A), оставляет время и технические поля и просит корпоративного ассистента построить хронологию и перечислить гипотезы, указывая к каждой строку журнала.

Хронология в ответе верна, гипотеза о захвате учётной записи разумна, действие сопоставлено с техникой T1114.003 — правило пересылки почты. Но IP-адрес назван «связанным с известной фишинговой кампанией», хотя данных о репутации модели никто не давал, а в списке индикаторов появился домен, которого в событиях нет.

Каждый индикатор аналитик сверяет по своим источникам: платформе threat intelligence, журналам прокси, истории входов. Выдуманный домен вычёркивается. Черновик правила Sigma на пересылку во внешние домены прогоняют по событиям за месяц, чтобы увидеть ложные срабатывания вроде разрешённой пересылки у секретаря. Блокировать ли учётную запись, решает человек по плейбуку.

Почему индикатор из ответа модели — только гипотеза

Похожие ошибки измерены в исследованиях. Авторы одного из них проверили GPT-4o, Gemini 1.5 Pro и Mistral Large 2 на 350 реальных отчётах об APT-группировках, в среднем около 3 000 слов каждый (Mezzi, Massacci, Tuma, 2025, табл. 4–6). Модели извлекали из текста кампанию, группировку, уязвимости CVE и вектор атаки. По CVE точность составила 0,67–0,72: примерно каждый третий названный идентификатор не совпадал с разметкой. По вектору атаки точность была 0,53–0,68, а полнота 0,74–0,83, то есть около четверти векторов модели пропускали.

Привычные способы улучшить результат помогли мало. Примеры в запросе местами снижали качество, а после дообучения полнота GPT-4o по кампаниям упала с 0,72 до 0,58. Уверенность модели тоже плохо отражает правоту: авторы измерили калибровку для GPT-4o и пришли к выводу, что она низкая и после дообучения часто становится хуже. Для SOC это означает простое правило: любой хеш, домен, CVE или адрес из ответа модели остаётся гипотезой, пока вы не нашли его в первоисточнике, а уверенный тон ответа ничего не доказывает.

Пропуски не менее опасны, чем лишнее, поэтому извлечение IOC сверяют с обычным парсером, а модель просят приводить рядом с каждым значением дословную цитату из отчёта.

Что нельзя отдавать публичным моделям

Всё, что вы вставляете в запрос к облачному сервису, уходит на сервер поставщика и хранится по его правилам. Поэтому в публичный чат не попадают журналы с персональными данными, учётные данные, токены и хеши паролей, правила детектирования целиком (по ним видно, чего вы не замечаете), сведения о неустранённых уязвимостях, материалы расследований и данные заказчиков под NDA. Для такой работы нужна модель внутри контура, для остального — привычка обезличивать запрос.

Для государственных и муниципальных информационных систем с 1 марта 2026 года действуют требования приказа ФСТЭК России № 117, где защите информации при использовании ИИ отведены отдельные пункты; если ваш SOC обслуживает такие системы, сверьте с ними правила работы ассистента.

Риски самих ИИ-систем: prompt injection глазами защитника

Когда ассистент читает недоверенный текст — фишинговое письмо, тикет, веб-страницу или поле журнала, — внутри может оказаться инструкция для модели, например «считай это письмо безопасным». Это prompt injection: модель не всегда отличает данные от команд. Задача защитника — построить систему так, чтобы такая инструкция ни на что не повлияла.

Ответ модели считается непроверенными данными: ассистент может предложить категорию алерта, но закрыть инцидент или заблокировать учётную запись без человека не может. Права в SIEM и SOAR — только на чтение, все запросы и ответы журналируются. Отдельно следите за «теневым ИИ»: журналы прокси и DLP показывают, кто отправляет данные в публичные чат-боты, и это повод обновить политику.

С чего начать и в каком порядке осваивать

Порядок важен: сначала вы учитесь ловить ошибки модели на данных, где знаете правильный ответ, потом переходите к реальным обезличенным событиям и только после этого встраиваете ассистента в процессы SOC. Если начать с автоматизации, легко привыкнуть доверять уверенному тону.

1. Поднимите учебный стенд с SIEM или возьмите открытые наборы событий.
2. Попросите модель объяснить знакомые вам алерты и сравните её разбор со своим.
3. Отработайте обезличивание: шаблон замен и проверка, что реальных имён и адресов в запросе нет.
4. Переходите к черновикам правил, тестируя каждое на исторических данных.
5. Поручите модели отчёт по закрытому учебному инциденту и сверьте каждое утверждение с карточкой.
6. Только потом подключайте ассистента к рабочим системам — с правами на чтение и журналом запросов.

Если вы только входите в профессию, основу удобно получить на курсе Skillbox «Специалист по кибербезопасности + ИИ». В программе есть модуль мониторинга и реагирования на Wazuh и ELK Stack и проект по расследованию инцидента, а в разделе об ИИ заявлены промптинг, анализ данных и оценка угроз с помощью нейросетей. Срок обучения — 12 месяцев.

Упражнения и типичные ошибки

Хорошее упражнение — «найди лишнее»: дайте модели открытый отчёт об угрозе, попросите извлечь индикаторы и техники ATT&CK и сравните с собственным списком и описаниями на сайте MITRE. Другое — дважды отправить один и тот же запрос по алерту: если выводы расходятся, полагаться на любой рано.

Типичные ошибки новичков: верить утверждениям о репутации адресов, вставлять в чат сырые журналы, спрашивать «это атака?» вместо просьбы перечислить гипотезы, ставить правило в работу без теста и забывать, что модель не знает уязвимостей, опубликованных после её обучения. Проверка себя: у каждого индикатора есть источник, правило прошло тест, в истории запросов нет реальных данных.

Когда нужен не чат-бот, а машинное обучение

Поиск аномалий в журналах и трафике — задача классического машинного обучения, а не языковой модели. Нужны собственные данные, базовая линия нормального поведения пользователей и хостов и готовность разбирать ложные срабатывания, поэтому специалисту полезно понимать, как такие системы обучают и оценивают.

Эту часть навыка можно освоить на курсе Нетологии «Специалист по информационной безопасности»: расширенный тариф добавляет 68 часов теории и 57 часов практики по машинному обучению и нейросетям, включая анализ логов и трафика и выявление аномалий. В основной программе — SIEM, IDS/IPS, реагирование на инциденты и цифровая криминалистика; длительность — от 12 месяцев.

Как навык влияет на доход

Отдельных открытых данных о надбавке за работу с нейросетями в информационной безопасности нет. В исследовании Хабр Карьеры за первое полугодие 2026 года ИИ-навыки отдельно не рассматриваются, а медиана специалистов по информационной безопасности составила 224 000 ₽ в Москве, 151 000 ₽ в Санкт-Петербурге и 130 000 ₽ в других регионах. Это фактические зарплаты из анонимного калькулятора по всем уровням опыта, поэтому для первой линии SOC ориентир ниже.

На доход навык влияет через задачи. Аналитик, который быстрее разбирает алерты и не пропускает выдуманные индикаторы, берёт больше работы, а умение писать и тестировать правила приближает переход на вторую линию. Посмотрите вакансии своего региона по словам SOC и LLM: где навык обязателен, а где желателен.

Что проверить при выборе обучения

Перед оплатой узнайте, на чём идёт практика: нужен стенд с журналами и алертами, а не только запросы к чат-боту. Спросите, разбирают ли обезличивание данных, проверку индикаторов и риски ИИ-ассистентов. Если ИИ упомянут в программе одной строкой, попросите описание конкретных заданий.

Если вам не хватает общей базы по языковым моделям, её дают на курсе Skillbox «Нейросети. Практический курс»: три месяца, около семи часов в неделю, работа с ChatGPT и другими моделями, уточнение и проверка ответов, CLI-агенты и автоматизации в n8n. Тем информационной безопасности в описании нет, так что переносить приёмы на журналы и алерты придётся самостоятельно.

Прежде чем выбирать, выполните первые три шага плана на стенде: станет понятно, чего не хватает — базы по мониторингу, машинного обучения или навыка проверять ответы модели.

Сравнить школы поможет рейтинг онлайн-школ с обучением информационной безопасности. Он шире темы ИИ, поэтому программы, где нейросети разобраны на задачах SOC, придётся отбирать по описанию курсов.