Новые роли, возникающие благодаря ИИ

Эта статья написана по мотивам поста на платформе Medium под названием Agentic AI Engineering: The Blueprint for Production-Grade AI Agents. Его автором является Yi Zhou, Award-Winning CTO & CIO, AI Thought Leader, LinkedIn Top Voice, Voting Member of MITA AI Committee. Также он написал книгу “Agentic AI Engineering: The Definitive Field Guide to Building Production-Grade Cognitive Systems”.

В своем тексте он рассуждает о задачах и областях знаний, необходимых для внедрения ИИ-агентов на уровне промышленной эксплуатации. Мы же попробовали сделать шаг дальше — и представить, какие профессии могут появиться и стать востребованными в ближайшем будущем.

Автор, исходя из своего опыта, выделил 5 ключевых направлений-элементов, необходимых для создания зрелого агента в корпоративном ландшафте.

Во многих организациях всеми этими направлениями может заниматься один-два человека. На уровне подготовки прототипа, вероятно, их компетенций может быть достаточно. Однако, далее проект может буксовать, если в эту проектную команду не добавить людей, имеющих требуемые навыки. Пройдемся по этим ролям.

Эту роль мы частично затрагивали в материале про создание RAG в корпоративном ландшафте. Там мы говорили о неком «архивариусе», который следит за качеством исходной базы документов и поддерживает его. Здесь же роль этого специалиста шире и в этот самый контекст, которым он управляет, входит:

Задача контекст-инженера в том, чтобы быть куратором этого контекста для достижения релевантности, ясности и полноты информации. Правило “garbage in — garbage out” по-прежнему применимо и важно: если на вход даже самой продвинутой модели подать нерелевантную или чрезмерно избыточную информацию, то она вряд ли сможет дать качественный ответ.

Причем это может зависеть и от этапа задачи, на которой находится агент: какие-то данные могут быть лишними в начале, но абсолютно необходимыми в конце.

В своем посте автор делится кейсом, как они смогли снизить «галлюцинации» их ИИ-агента в сфере здравоохранения:

Еще одна из ключевых ролей. По большому счету именно этот человек отвечает за бизнес-результат, которого достигнет AI-агент. В его задачи входит:

В качестве примера автор приводит следующий кейс в финансовой сфере. Первым подходом к снаряду было просто сказать LLM: «проанализируй эти 200 счетов и найди любые переплаты». LLM не смогла дать качественного ответа. В следующей итерации был разработан полноценный воркфлоу:

Что есть такое «переплата»? Каждый из шагов выше имел свой контекст, образ результата и метрику качества.

В другом кейсе автор приводит снова пример ИИ-агента из сферы здравоохранения: пока агенту явным образом не было сказано перепроверять интерпретацию лабораторных анализов до вынесения заключения, агент этого не делал, и приходил зачастую к неверным выводам.

Человек в этой роли — тот самый эксперт, который разбирается в огромном многообразии моделей и может подобрать правильные модели под разрабатываемый воркфлоу. Казалось бы, можно просто взять самую умную и продвинутую модель на рынке, но выбор модели — это всегда trade-off между производительностью, затратами, скоростью работы и данными, с которыми она лучше всего работает.

На данный момент верхнеуровнево выбор может касаться следующих типов моделей:

В реальных кейсах часто это бывает ансамбль из разных моделей. Большая модель может быть планировщиком, компактная модель — исполнителем простых задач, локальные модели могут работать с конфиденциальной информацией, мультимодальные могут анализировать разнородный контекст. При этом есть еще отдельные модели под работу с изображениями, видео, звуком, распознаванием и генерацией речи и мн. др. Соответственно, этот человек должен хорошо разбираться во всех нюансах этих моделей, держать руку на пульсе, чтобы под необходимые бизнес-требования и под проектируемый воркфлоу подобрать оптимальные модели под каждый из этапов.

Полезность такого подхода опять же подкрепляется кейсом автора поста, касающегося финансовой сферы. В рамках него они использовали Claude Opus только для сложных задач и задач с размытыми формулировками, а небольшие open-source модели для конкретной задачи — классификации счетов. Такой баланс увеличил скорость работы воркфлоу на 40% и снизил издержки на 60%, при этом нисколько не потеряв в качестве.

Под его капотом при этом лежит не одна лучшая модель, а лучшая система разных моделей, которая работает как команда.

AgenticOps — это в некотором смысле объединение MLOps и DevOps. Здесь скорее всего нужен будет даже не один специалист, а несколько. Так или иначе, основная задача этой части построения агентной системы заключается в том, чтобы ИИ-агент работал в продакшн-среде предсказуемо, контролируемо и прозрачно. Эта сфера деятельности включает в себя:

ИИ-агент ровно так же нуждается в тестировании, как и классическое программное обеспечение. Отличие заключается лишь в том, что ИИ-агент обладает стохастической природой, а это в свою очередь означает, что теперь необходимо покрыть каждый сценарий большим количеством запусков агента, чтобы убедиться в том, что его результат соответствует ожидаемому.

Это требует следующих подходов к тестированию:

Безопасность также является важной задачей для этой сферы деятельности. Здесь среди инструментов могут быть контент-фильтры поверх выдачи LLM-модели, ограничение доступов к инструментами и методам, работа в изолированном окружении и др. Каждое действие агента должно логироваться, чтобы затем иметь возможность разобраться, на каком этапе агент поступил неверно. Также необходимо продумать инструменты, которые обезопасят агента от промпт-инъекций и чрезмерного расхода токенов.

Автор поста приводит пример из практики, как промпт-инъекция видоизменяла исходный промпт агента, что меняло стилистику email-письма с дружелюбного на агрессивный. В результате им пришлось создать двухуровневую систему модерации контента, чтобы предотвращать это.

Оптимизация работы AI-агента является еще одним фокусом внимания в этой сфере деятельности. Например, популярным методом оптимизации является кэширование результатов некоторых этапов работы агента, которые могут быть затем переиспользованы в следующих запусках. В примере автора за счет этого удалось уменьшить среднее время работы LLM-модели на 2 секунды за счет кэширования результата этапа рассуждения, используемого в 40% запросов к этому агенту.

Представим на секунду, что к текущему моменту, успешно пройдя все предыдущие стадии, мы построили лучшего ИИ-агента: безошибочно рассуждает, использует по назначению инструменты, придерживается необходимых политик, работает быстро и прозрачно.

В данном случае речь идет об user experience (UX). Пользовательский опыт взаимодействия с агентом может отличаться, а может быть и чем-то похож на классическое ПО. Человек хочет понимать:

У агента должны быть пользовательские настройки для управления результатом и процессом, возможность править черновики, возможность давать разрешение на действие, перезапускать процесс, дать обратную связь на результат. Даже тон и характер того, как ИИ-агент пишет и разговаривает — это тоже часть UX. ИИ-агент, выполняющий юридические задачи, может быть сухим и кратким, а агент, отвечающий за рекламный креатив, может быть более живым и использовать жаргонизмы. И это тоже отдельная область знаний и сфера деятельности.

Понимая масштаб задач, необходимых для внедрения ИИ-агента в компании, мы можем очертить пул новых ролей. Как когда-то мы начали выделять такие специальности как data scientist, data engineer, ML engineer, data analyst и др., так и сейчас мы можем наблюдать формирование спроса на отдельные профессии, связанные с AI.

Эти роли не абсолютно новые — их корни в DS и классической разработке ПО. Но теперь к ним добавляется специфика: глубокое понимание ИИ и его применения в корпоративном ландшафте. Чтобы получить комплексное образовательное решение в вашей компании, вы можете обратиться к нам, выбрав соответствующую программу.