Этика ИИ: ответственность за решения алгоритма, предвзятость данных и правила для команды

Частое заблуждение — считать этику ИИ философией для конференций или работой юриста. На деле это несколько проверок, которые делает сама команда. Учебная ситуация: интернет-магазин запускает модель, которая одни заявки на рассрочку одобряет сразу, а другие отправляет на ручную проверку. Через месяц выясняется, что покупателей из нескольких районов модель почти всегда отправляет на проверку, и они уходят к конкурентам. Закон, возможно, не нарушен, но вопросы остаются: кто должен был это заметить, по каким цифрам и что теперь сказать покупателям.

Чем этика отличается от права

Закон задаёт минимум, этика закрывает то, что им не урегулировано. Так определён и предмет российского Кодекса этики в сфере ИИ: этические аспекты создания и использования ИИ, не урегулированные законодательством и техническим регулированием, причём только в гражданских целях. Штрафы и договоры относятся к цифровому праву, права на сгенерированный текст — к теме генеративного ИИ. Здесь речь о том, как команда защищает людей, о которых модель что-то решает: клиента, кандидата, пациента.

Кто отвечает за решение алгоритма

У модели нет ни должности, ни подписи. Кодекс формулирует жёстко: за все последствия работы системы ИИ всегда должен отвечать человек, передавать ей полномочия ответственного выбора недопустимо (п. 3.2 раздела 1). Там же рекомендовано фиксировать существенные решения человека и вести журналы работы системы (п. 3.1).

В команде это превращается в простой документ. У каждого применения ИИ есть владелец — конкретный сотрудник, который знает, зачем нужна модель, какие данные она получает и кто вправе её остановить. В примере с рассрочкой владелец — руководитель направления, а не разработчик или поставщик модели: он отвечает за то, кого пропустили, а кого нет. Вторая часть документа — граница автоматизма: какие выводы вступают в силу сами, а какие только предлагаются человеку. Отказ в услуге, увольнение, оценка ученика обычно требуют подтверждения человеком, сортировка писем — нет.

Предвзятость данных и как её проверить

Предвзятость редко закладывают намеренно. Модель учится на прошлых решениях людей: если раньше заявки из отдалённых районов отклоняли из-за проблем с доставкой, она усвоит «район = риск» и перенесёт это на всех жителей. Бывает, что примеров какой-то группы в данных мало и для неё модель работает хуже. Есть и признаки-заместители: даже если убрать возраст и пол, их выдадут модель телефона, район или время покупки.

Кодекс рекомендует применять методики выявления дискриминации (п. 1.4) и использовать качественные, репрезентативные наборы данных, полученные законным путём (п. 2.6). Проверку удобно строить от простого к сложному: сначала данные, потом результаты по группам, потом спорные случаи. Порядок важен: если в данных одной группы почти нет, сравнивать её показатели бессмысленно.

1. Посчитайте, сколько примеров каждой группы в обучающих данных: регион, возраст, канал обращения — если такие сведения законно есть.
2. Сравните по группам долю положительных решений и долю ошибок: кого модель отклонила зря, кого пропустила зря.
3. Уберите подозрительный признак и посмотрите, изменились ли решения для группы.
4. Разберите вручную два-три десятка пограничных случаев.
5. Запишите результат и порог, при котором модель возвращают на доработку.

Разница в цифрах ещё не доказывает несправедливость: группы могут действительно различаться по риску. Но каждую заметную разницу кто-то должен объяснить словами, и если объяснения нет, это повод остановиться.

Прозрачность и объяснимость

Прозрачность означает, что человек знает о модели: Кодекс рекомендует сообщать, что пользователь взаимодействует с ИИ, когда затрагиваются его права, и давать возможность прекратить такое взаимодействие (п. 2.5). Объяснимость — что человек понимает, почему решение именно такое. Самого слова «объяснимость» в Кодексе нет: он говорит о прозрачности и о достоверной информации о возможностях, ограничениях и рисках системы (п. 6.1).

Для скоринга объяснение строят из главных факторов: «больше всего повлияли короткая кредитная история и сумма выше обычной». С языковыми моделями так не выйдет, поэтому объясняют процесс: какие данные использованы, какую роль играла модель, кто проверил результат и как попросить пересмотра. Проверка простая: дайте текст коллеге из другого отдела. Если он не может пересказать, почему отказали и что делать дальше, объяснение не работает.

Согласие и персональные данные

Самая частая ошибка — смена цели. Покупатель оставил телефон и адрес, чтобы получить заказ, а команда берёт их для обучения скоринговой модели. Законное основание и детали обработки — вопрос закона о персональных данных и юриста. Этическая часть начинается раньше: ожидал бы человек такого использования и согласился бы он, если бы его спросили прямо? Отсюда рабочие правила: какие данные нельзя отправлять во внешние сервисы, когда данные обезличивают перед анализом и кто разрешает новое использование уже собранной базы.

Российские и европейские ориентиры

Присоединение к Кодексу добровольное, а присоединившиеся организации назначают уполномоченных по этике ИИ и могут создавать внутренние комиссии (пп. 2.1–2.2 раздела 2). Счётчик на сайте Кодекса в октябре 2026 года показывал 1294 подписанта. Закон № 243-ФЗ 2026 года о поддержке технологий ИИ среди принципов регулирования больших фундаментальных моделей называет уважение автономии и свободы воли человека и риск-ориентированный подход (ст. 4).

Европейский регламент об ИИ (AI Act) касается команды, если её системы работают на рынке Евросоюза. Одна его норма прямо относится к навыку — обучение сотрудников. Статья 4 в исходной редакции применялась со 2 февраля 2025 года и требовала от поставщиков и пользователей систем ИИ «в меру возможностей» обеспечить достаточный уровень ИИ-грамотности персонала (разъяснение регулятора RTR). Регламент (ЕС) 2026/1744, вступивший в силу 27 июля 2026 года, переписал статью: теперь компании обязаны принимать меры, чтобы поддерживать развитие ИИ-грамотности, и прямо сказано, что гарантировать какой-либо уровень грамотности отдельного сотрудника не требуется. Еврокомиссия должна публиковать практические примеры выполнения этой обязанности. Вывод для команды: тестировать каждого не нужно, но обучение и инструкции по-прежнему стоит проводить и документировать.

С чего начать: внутренние правила использования ИИ

Правила пишут от реальных применений, а не от шаблона. Сначала нужно увидеть, где ИИ уже используется, потом оценить риск, и только затем распределять ответственность и вводить запреты. Если начать с запретов, сотрудники продолжат пользоваться нейросетями, но перестанут об этом говорить.

1. Составьте перечень применений: кто, для чего, какой сервис, какие данные туда попадают.
2. Отметьте применения, где вывод модели влияет на права, деньги, здоровье или работу людей.
3. Назначьте им владельцев и границу автоматизма.
4. Запишите правила для данных и внешних сервисов.
5. Проверьте рискованные применения на предвзятость и подготовьте текст объяснения.
6. Определите, как человек оспаривает решение и кто рассматривает обращения.
7. Назначьте ответственного за пересмотр правил и ведите журнал инцидентов.

Обучение полезно, если в нём разбирают не только инструменты. На онлайн-курсе MBS «Цифровые компетенции руководителя: нейросети в работе» за четыре вечерних онлайн-занятия разбирают языковые модели, внедрение ИИ в компании и отдельно этику и право — тему, полезную при выработке внутренних правил. Практические задания на странице не описаны, формат и документ об окончании уточните у школы.

Как тренироваться и проверять себя

Возьмите одно применение ИИ в своём отделе и заполните на него карточку на страницу: цель, владелец, данные, кто проверяет вывод, что делать при ошибке. Затем на обезличенных данных посчитайте долю положительных решений по двум-трём группам и объясните разницу словами. Третье упражнение — объяснение отказа для человека без технического образования.

Новички обычно смотрят только на общую точность, назначают ответственным отдел, а не человека, и пишут правила один раз, хотя сервисы и данные меняются.

Тем, кому интересны сами этические вопросы, подойдёт гуманитарная программа. На курсе Skillbox «Философия искусственного интеллекта», созданном совместно с МГУ, есть блок о «моральной машине» и распределении ответственности между разработчиком, компанией и пользователем, а также этика ИИ в медицине: качество данных, объяснимость и право на пересмотр автоматического вывода. Программирования нет, итог — собственное исследование с защитой позиции перед экспертами.

Когда нужен курс и как выбрать

Курс нужен, когда вы отвечаете за внедрение ИИ или пишете для компании правила. Если вы просто пользуетесь чат-ботом, хватит внутренней инструкции и разборов случаев. В программе ищите реальные кейсы, работу с качеством данных, персональные данные и задание, где нужно составить политику или карточку применения. Курсов только об этике ИИ мало, её чаще изучают внутри широкой программы.

Так устроен курс Нетологии «AI-архитектор с нуля до PRO»: восемь месяцев, 103 часа теории и 136 часов практики по нейросетям и ИИ-агентам. Передаче конфиденциальных документов в публичные модели посвящён бонусный модуль, но этика и персональные данные в описании не раскрыты — их объём уточните у школы.

Как навык влияет на доход

Отдельной зарплатной статистики по навыку «этика ИИ» в открытых источниках нет. Обычно это часть требований к ролям, где ИИ касается людей и рисков: руководитель ИИ-проектов, специалист по комплаенсу, ответственный за персональные данные, продуктовый менеджер. Чтобы оценить рынок, ищите в вакансиях «ответственный ИИ», «AI governance», «политика использования ИИ», фильтруйте по региону и опыту и сравнивайте предложения с этим требованием и без него.

Руководителю, который выбирает обучение шире одной темы, пригодится рейтинг онлайн-школ с обучением ИИ для руководителей. Он посвящён нейросетям в управлении в целом, поэтому программы стоит проверять на темы рисков, данных и правил для сотрудников.

Лучше всего навык показывает результат: перечень применений ИИ в отделе, проверка одной модели на предвзятость или инструкция, которой коллеги действительно пользуются.