Кто такой ИИ-инженер и чем он занимается в компаниях

Колонка Макса Шапошникова, ex-Applied Scientist в Amazon, Research Engineer в стартапе по ИИ-генерации кода и ментора AI Talent Hub

ИИ-инженер — одна из самых обсуждаемых новых ролей в технологических командах. Компании всё чаще ищут специалистов, которые умеют работать с большими языковыми моделями, агентами, RAG-системами, инфраструктурой для запуска моделей и оценкой качества ИИ-решений.

Но у этой роли пока нет единого стандарта. В одной компании ИИ-инженер может заниматься инфраструктурой для агентов, в другой — проектировать продуктовые сценарии с LLM, в третьей — строить бенчмарки, eval-пайплайны и почти исследовательские системы оценки качества.

В этой колонке Макс Шапошников — ex-Applied Scientist в Amazon, 4 года занимался претрейном LLM, сейчас работает Research Engineer в стартапе по ИИ-генерации кода и менторит студентов AI Talent Hub — разбирает, чем может заниматься ИИ-инженер в зависимости от типа компании и задач.

Откуда приходит ИИ-инженер

ИИ-инженером сегодня может стать как классический разработчик программного обеспечения, так и ML-инженер. Эта роль находится на стыке двух направлений: software engineering и machine learning engineering.

От разработчика здесь нужны инженерная база, умение строить устойчивые системы, работать с инфраструктурой, API, backend, облаками и production-кодом.

От ML-инженера — понимание моделей, данных, метрик, экспериментов, RAG-пайплайнов, промптинга, eval-подходов и ограничений LLM.

Правда обычно где-то посередине. В зависимости от компании роль ИИ-инженера может быть ближе либо к инфраструктуре, либо к исследовательской и экспериментальной части. Но почти всегда её объединяет одно: работа с передовыми моделями, агентами и ИИ-first продуктами.

1. Инфраструктура для ИИ-агентов

Первый тип задач — инфраструктура для агентов. В эпоху ИИ-агентов многим компаниям нужны облачные вычисления, изолированные среды и инструменты, которые позволяют безопасно запускать агентов, масштабировать их работу и собирать данные.

Такие решения развивают, например, Daytona, Modal, RunPod и другие компании, которые строят инфраструктуру вокруг запуска, тестирования и масштабирования агентных систем.

Это нужно, чтобы:

— прогонять бенчмарки;

— масштабировать вычисления;

— запускать агентов в изолированных средах;

— собирать успешные траектории агентов;

— генерировать обучающие данные для будущих моделей.

В таких компаниях ИИ-инженер может заниматься устойчивой инфраструктурой, инструментами для запуска агентов, мониторингом, безопасностью, управлением ресурсами и автоматизацией вычислительных сред.

Со стороны может показаться, что это простая инженерная задача. Но агенты непредсказуемы: они могут работать медленно, потреблять слишком много ресурсов, уходить в бесконечные циклы или находить способы «сломать» облачную среду. Макс отдельно разбирал такой пример в своём канале.

2. ИИ-агенты и инструменты внутри продукта

Второй, более привычный сценарий — разработка агентов и ИИ-инструментов внутри продукта.

Многие компании сейчас создают собственные агентские решения: ассистентов, которые автоматизируют часть пользовательского сценария или внутренней работы команды.

Например, ИИ-инженер может разрабатывать:

— агента для создания тикетов;

— агента для записи и расшифровки Zoom-звонков;

— ассистента для работы с документацией;

— RAG-систему для поиска по базе знаний;

— инструмент для семантического поиска;

— пайплайн для ускорения работы моделей;

— продуктовую фичу на базе LLM.

Например, похожими задачами занимаются ИИ-инженеры в Granola — стартапе, который стал юникорном и развивает продукт для работы со встречами. Их вакансию ИИ-инженера можно посмотреть здесь.

В этом типе задач больше экспериментов и итеративного дизайна. Нужно быстро проверять гипотезы, смотреть на качество ответов, улучшать промпты, менять пайплайны, тестировать разные модели, думать о latency, стоимости и стабильности результата.

Здесь особенно помогает ML-бэкграунд: понимание данных, метрик, качества модели и ограничений LLM.

3. Оценка качества, бенчмарки и почти research

Третий тип задач — eval’ы, бенчмарки и работа на границе engineering и research.

Компании всё чаще создают отдельные команды, которые отвечают за оценку качества ИИ-систем. Их задача — понять, где модели и агенты справляются хорошо, а где ломаются.

ИИ-инженер в такой роли может:

— проектировать бенчмарки;

— создавать eval-пайплайны;

— находить домены, где агенты пока не справляются;

— анализировать ошибки моделей;

— улучшать качество через дообучение;

— добавлять полезный контекст;

— проверять стабильность агентных решений;

— сравнивать разные модели и подходы.

Дизайн бенчмарков — сложная задача. Недостаточно просто собрать набор вопросов и посмотреть на ответы модели. Нужно понимать, что именно проверяется, как избежать утечек, как оценивать качество, как обеспечить воспроизводимость и как сделать так, чтобы метрика действительно отражала полезность системы. Макс подробнее писал об этом здесь.

В передовых enterprise-компаниях появляются команды, которые делают Agent Enablement Platforms — платформы для раскатки агентных решений на всю компанию. Например, для кодинга, работы с документами, поддержки, аналитики или внутренних процессов.

Есть и компании, которые создают observability- и eval-решения на продажу. Среди примеров — Braintrust и Tessl. Tessl, например, нанимает ИИ-инженеров под такие задачи — вакансию можно посмотреть здесь.

Какие навыки нужны ИИ-инженеру

Из-за широты роли универсального списка навыков нет. Но можно выделить несколько блоков, которые чаще всего встречаются в задачах ИИ-инженера.

Для инфраструктурных задач важны:

— backend-разработка;

— облачные сервисы;

— контейнеризация;

— API;

— безопасность;

— мониторинг;

— масштабирование;

— работа с вычислительными ресурсами.

Для продуктовых ИИ-задач важны:

— LLM;

— RAG;

— prompt engineering;

— семантический поиск;

— интеграция моделей в продукт;

— работа с latency и стоимостью;

— дизайн пользовательских сценариев.

Для eval- и research-adjacent задач важны:

— метрики качества;

— дизайн бенчмарков;

— анализ ошибок;

— работа с датасетами;

— дообучение моделей;

— понимание архитектур LLM;

— воспроизводимость экспериментов.

ИИ-инженер — это не человек, который просто «подключает ChatGPT по API». Это специалист, который умеет превратить модель или агента в рабочую систему: устойчивую, полезную, измеримую и встроенную в продукт или процесс.

Чем ИИ-инженер отличается от ML-инженера и разработчика

Классический разработчик чаще отвечает за создание программных систем: backend, frontend, инфраструктуру, сервисы, интеграции, архитектуру.

ML-инженер обычно работает ближе к данным, моделям, обучению, экспериментам, метрикам и production ML.

ИИ-инженер соединяет эти зоны. Он может не обучать модель с нуля, но должен понимать, как её использовать, как оценить результат, как встроить LLM в продукт, как построить RAG-пайплайн, как организовать работу агентов и как сделать всё это надёжным.

Поэтому роль особенно подходит тем, кто уже имеет базу в software engineering или ML engineering и хочет работать в ИИ-first продуктах.

Почему роль ИИ-инженера будет расти

ИИ-first мир создаёт огромное количество нерешённых задач. Нужно строить инфраструктуру для агентов, улучшать качество моделей, создавать eval-системы, интегрировать LLM в продукты, снижать стоимость inference, ускорять пайплайны, контролировать безопасность и проектировать новые пользовательские сценарии.

Поэтому место найдётся специалистам с разным бэкграундом:

— разработчикам, которые хотят перейти в ИИ-продукты;

— ML-инженерам, которые хотят работать с LLM и агентами;

— исследователям, которым интересны eval’ы и качество моделей;

— backend-инженерам, которые готовы строить инфраструктуру для агентных систем;

— продуктово мыслящим инженерам, которые умеют соединять модель, пользователя и бизнес-задачу.

Главное — понимать, что ИИ-инженер не ограничивается одной технологией. Это роль про системную работу с современными моделями, агентами и продуктами вокруг них.

Как попробовать роль ИИ-инженера на практике

В AI Talent Hub внимательно следят за появлением новых ИИ-ролей и стараются проверять их на практике.

Например, в феврале прошёл #AITalentCamp — очный интенсив-погружение в ИИ-инжиниринг. Участники работали над ИИ-first продуктами, собирали решения с агентами и пробовали новую роль не в теории, а через проектную разработку. О том, как интенсив повлиял на участников, можно прочитать в канале AI Talent Hub.

Осваивать роль ИИ-инженера и другие ИИ-направления на практике можно в AI Talent Hub. А поступить на бюджет без экзаменов можно через JMLC или Конкурс портфолио.

Больше заметок Макса Шапошникова про карьеру, образование и исследования в ИИ — в его канале @max_dot_sh.

Итог

ИИ-инженер — это новая роль на стыке разработки, машинного обучения, продуктового мышления и работы с агентами. В одной компании он может строить инфраструктуру для запуска агентов, в другой — делать RAG и продуктовые LLM-фичи, в третьей — проектировать eval-системы и бенчмарки.

Разброс задач большой, но именно в этом сила роли: в новом ИИ-first мире найдётся место и разработчикам, и ML-инженерам, и специалистам, которые хотят работать на границе продукта, инженерии и исследований.