Как устроены ИИ-агенты и чему учиться для создания первого помощника

Главное заблуждение новичков — считать агента чат-ботом с длинной инструкцией. Модель сама ничего не выполняет: она возвращает название инструмента и аргументы, а запрос к таблице или поиску делает ваш код или конструктор. Поэтому основная работа создателя агента — решить, какие действия ему дать, с какими правами, сколько шагов разрешить и когда звать человека.

Из чего состоит агент

Модель играет роль диспетчера: решает, ответить сразу или сначала что-то сделать. Инструменты — функции, которые ей разрешено вызывать; каждую описывают названием, пояснением и схемой параметров. В документации Anthropic о вызове инструментов порядок такой: модель возвращает блок с названием инструмента и аргументами, приложение выполняет функцию и отправляет результат обратно, модель продолжает работу. Механизм называют function calling, или tool use.

Цикл связывает модель и инструменты. Схему, в которой модель чередует рассуждение и действие и после каждого действия получает наблюдение, описали Шуньюй Яо и соавторы в статье «ReAct», опубликованной на конференции ICLR 2023. Память бывает короткой — история текущего разговора, ограниченная окном модели, — и долгой: база документов, таблица, заметки о прошлых обращениях, к которым агент обращается через те же инструменты.

Когда нужен агент, а когда хватит сценария

Агент нужен, когда путь к результату зависит от содержания запроса: один клиент спрашивает о цене, другой хочет записаться, третий жалуется. Если шаги всегда одинаковые — получить письмо, вытащить номер заказа, записать в таблицу, — надёжнее обычный сценарий автоматизации, где модель выполняет одну операцию внутри заданной цепочки.

Умение составлять запросы к модели здесь пригодится, но его мало: промпт-инжинирингу, нейросетям в повседневной работе и профессии специалиста по ИИ на сайте посвящены отдельные статьи. Здесь речь о самом навыке — собрать и проверить агента.

Учебный пример: помощник по базе знаний с записью в таблицу

Ситуация учебная. Администратор языковой школы отвечает в мессенджере на одни и те же вопросы о расписании и цене, а желающих прийти на пробный урок вносит в таблицу. Задача — помощник, который отвечает по документам школы и сам записывает заявки.

Агенту дают два инструмента. Первый ищет по базе знаний: регламенты и прайс разбиты на фрагменты, на запрос возвращаются три самых близких по смыслу. Такой подход называют RAG (retrieval-augmented generation, генерация с опорой на найденные документы). Второй добавляет строку в таблицу заявок: имя, время, уровень языка. Удалять и менять строки агент не может.

Клиент спрашивает, сколько стоит групповое занятие и можно ли прийти на пробное в субботу. Модель вызывает поиск, находит цену, но не находит субботних групп, называет цену и предлагает будний день. Клиент соглашается на среду, агент уточняет имя и уровень и только потом делает запись. Вопрос о возврате денег за абонемент он по инструкции передаёт администратору.

RAG, оркестрация и протокол MCP

Качество помощника во многом зависит от базы знаний, а не от модели: устаревший прайс, противоречащие регламенты или сканы без текстового слоя дают уверенные неверные ответы.

Собрать цикл можно в no-code-конструкторе вроде n8n, Make или Dify — из готовых узлов модели, памяти и инструментов — или во фреймворке на Python, например LangChain и LangGraph, где цикл, состояние и проверки описывают кодом. Конструктор быстрее даёт прототип, код — больше контроля над ветвлениями, журналами и тестами.

Подключение агента к сервисам унифицирует Model Context Protocol (MCP). Anthropic представила его 25 ноября 2024 года, а 9 декабря 2025 года передала в Agentic AI Foundation — фонд под эгидой Linux Foundation, созданный вместе с Block и OpenAI. MCP-сервер предоставляет данные, шаблоны запросов и инструменты, а приложение с агентом подключается к нему как клиент. В спецификации сказано, что сам протокол не может обеспечить безопасность: описания инструментов от непроверенного сервера считаются недоверенными, а перед вызовом любого инструмента приложение должно получить согласие пользователя.

Почему агент ошибается и зацикливается

Цикл действий меняет характер ошибок, и это видно по разбору в статье о ReAct. Авторы вручную разобрали по 50 неудачных ответов на вопросы набора HotpotQA для ReAct, где модель ищет в Википедии, и для chain-of-thought, где она только рассуждает. У chain-of-thought 56 % неудач составили выдуманные факты, у ReAct — ноль. Зато ошибки рассуждения у ReAct заняли 47 % против 16 %, и авторы называют частый сбой: модель повторяет прежние мысли и действия и не может выйти из цикла. Ещё 23 % неудач ReAct пришлись на поиск, вернувший пустой или бесполезный результат.

Отсюда три правила. Нужен предел шагов и проверка на повтор одинаковых вызовов, иначе агент крутится, пока не исчерпает бюджет. Инструмент должен и при неудаче отвечать понятно, например «ничего не найдено, переформулируйте запрос». И надо считать стоимость: каждый оборот цикла — отдельное обращение к модели с растущей историей.

Безопасность: инъекции, права и человек в контуре

Агент читает чужие тексты — письма, сайты, файлы, — и в них можно спрятать команду. Это непрямая промпт-инъекция, первый пункт списка OWASP Top 10 for LLM Applications 2025. Авторы списка признают: неясно, существуют ли надёжные способы её предотвратить, а RAG и дообучение уязвимость полностью не устраняют. Защищаться приходится архитектурой.

Шестой пункт, Excessive Agency, называет три причины вреда: лишние функции у инструмента, лишние права в подключённой системе и лишняя самостоятельность, когда рискованное действие выполняется без подтверждения. В примере OWASP помощник для пересказа почты умел и отправлять письма, и вредоносное письмо заставило его переслать данные злоумышленнику. Для школы вывод простой: база знаний только на чтение, таблица только на добавление строк, отправки писем нет, возвраты решает человек, а права проверяет сама таблица, не модель.

С чего начать и в каком порядке осваивать

Шаги идут так, чтобы каждая новая часть агента добавлялась к уже проверенной. Если сразу собрать цикл с пятью инструментами и базой знаний, при ошибке непонятно, что сломалось: поиск, описание инструмента или модель.

1. Запрос к модели через API: системная инструкция, ответ в заданном формате, подсчёт токенов.
2. Один инструмент, например запись в таблицу, и проверка аргументов при разных формулировках вопроса.
3. База знаний из десяти-двадцати документов с поиском по смыслу и ссылкой на источник в ответе.
4. Цикл с пределом шагов, журналом вызовов и передачей человеку.
5. Готовый MCP-сервер и проверка прав, которые он получает.
6. Перенос агента на сервер.

На онлайн-курсе «ИИ-агенты и n8n» Брунояма за два месяца проходят 12 модулей и больше 30 практических заданий: бот в Telegram, Google Sheets и Airtable, внешние API, RAG с векторной базой в Supabase, Model Context Protocol и развёртывание n8n через Docker. Выпускной проект с наставником есть на тарифах от «Оптимального»; без базового понимания HTTP-запросов будет трудно.

Как тестировать агента и где ошибаются новички

Агента проверяют не по трём удачным диалогам, а на тестовом наборе. Для помощника школы это 30–50 вопросов с правильными ответами: обычные, с опечатками, вопросы без ответа в базе и документ со спрятанной командой. В каждом прогоне смотрят, верен ли ответ, вызван ли нужный инструмент с правильными аргументами, сколько было шагов и во что обошёлся запрос. После правки инструкции или замены модели набор прогоняют заново.

Типичные ошибки: расплывчатые описания инструментов, из-за которых модель путает поиск и запись, отсутствие предела шагов, право удаления «на всякий случай», ключи в тексте инструкции, проверка только на вопросах, на которых агента собирали.

Оценку пользы и рисков можно потренировать и на курсе. На онлайн-курсе «ИИ-агенты» Нетологии четыре месяца при нагрузке до пяти часов в неделю, 52 часа теории и 62 часа практики: пять и более агентов в n8n, сравнение с Make, работа с ChatGPT, DeepSeek и GigaChat и симулятор внедрения, где оценивают пользу, риски и роль человека. Выдают удостоверение о повышении квалификации; подробного плана уроков в обзоре нет, его стоит запросить у школы.

Как навык влияет на доход

Разработчику навык редко оплачивают отдельной строкой: языковые модели, RAG и вызов инструментов входят в требования к бэкенд-разработчику, аналитику или специалисту по автоматизации. Зато тот, кто умеет собирать агентов, берёт задачу целиком, от разбора процесса до тестового набора.

Интегратор, который собирает агентов для малого бизнеса, продаёт проект и сопровождение: разбор процесса и документов, сборку, тестирование, обучение сотрудников и ежемесячную поддержку, а расходы на модель ложатся на заказчика и растут с числом обращений. Открытых данных о заработке именно на ИИ-агентах с описанной методикой пока нет. Чтобы оценить рынок, ищите на hh.ru и Хабр Карьере вакансии с агентами, n8n и RAG, фильтруйте по региону и опыту, сравнивайте медианы и уточняйте, указана сумма до вычета налога или на руки.

Как выбрать обучение

Сначала решите, кто вы: пользователь, который автоматизирует свой отдел, или разработчик, отвечающий за надёжность агента. Первому важны конструктор и база знаний, второму — код, тесты и права доступа.

Тем, кто автоматизирует процессы небольшого отдела, подойдёт онлайн-курс «ИИ-агенты для бизнеса» Skillbox: 31 час теории и 183 часа практики с проверкой куратором. Слушатели собирают новостной трекер, HR-помощника, ассистента с базой знаний и бота для Telegram или ВКонтакте на связке Claude и n8n, разбирают Claude Code, Make и Dify. Длительность в обзоре указана двояко, три и четыре месяца, — уточните её у школы. Разработчикам, которым нужна архитектура многоагентных систем, программа не подойдёт — так сказано и в обзоре.

Перед оплатой узнайте, кто проверяет проекты, оплачиваются ли подписки на модели отдельно и учат ли тестировать агента и ограничивать его права, а не только собирать.

Сравнить школы поможет рейтинг онлайн-школ с обучением ИИ-агентам и автоматизации. Если ваш помощник отвечает по десяти документам, пишет в таблицу только добавлением и проходит свой тестовый набор, база освоена — пора браться за настоящий процесс.