Люди становятся надсмотрщиками над ИИ, которому бизнес уже передаёт целые процессы, но не ответственность

Фото: Пресс-служба МАИ / Архив

Чем больше полномочий получает искусственный интеллект, тем важнее становится человек, способный проверить его работу и вовремя остановить ошибку.

На первый взгляд это противоречие. Если система самостоятельно принимает заявку, ищет информацию, подбирает исполнителя, готовит документы и назначает встречу, участие сотрудника действительно сокращается. Но вместе с количеством переданных алгоритму операций растёт и цена незамеченного сбоя. Ошибка в одном автоматически созданном письме легко исправляется. Ошибка внутри цепочки, через которую ежедневно проходят сотни клиентов, кандидатов или платежей, способна повлиять уже на работу целого подразделения.

Искусственный интеллект поэтому всё чаще получает не отдельное поручение, а часть бизнес-процесса. По данным глобального исследования Microsoft Work Trend Index 2025, 46% опрошенных руководителей сообщили, что их организации уже применяют ИИ-агентов для полной автоматизации отдельных рабочих потоков или процессов. В ближайшие годы компании рассчитывают поручать сотрудникам создание многоагентных систем, обучение цифровых помощников и управление ими.

Однако переход от программы-помощника к системе, которая действует самостоятельно, не означает автоматического исчезновения профессий. Международная организация труда оценивает, что генеративный ИИ способен затронуть примерно каждое четвёртое рабочее место в мире, но наиболее вероятным последствием называет трансформацию задач, а не полную замену человека. К похожему выводу пришли исследователи НИУ ВШЭ, изучившие более 700 тысяч российских вакансий за 2021–2025 годы: признаков массового вытеснения целых профессий они не обнаружили, хотя в технической поддержке, создании простых текстов и других рутинных областях уже заметны точечные изменения.

Формируется новая модель работы: алгоритм выполняет последовательность типовых действий, а сотрудник наблюдает за ней, проверяет результат и подключается в нестандартной ситуации. Человек перестаёт быть исполнителем каждого шага, но становится ответственным за всю систему.

О том, какие процессы компании уже передают искусственному интеллекту, почему внедрение нельзя начинать с решения сократить штат и кто должен отвечать за ошибки цифрового помощника, в рамках проекта «Как это работает?», реализуемого при поддержке Министерства науки и высшего образования Российской Федерации в рамках Десятилетия науки и технологий, рассказал Олег Громов — генеральный директор и основатель российской ИТ-компании Extyl, имеющий более 18 лет опыта работы в отрасли.

Когда алгоритм получает не задачу, а целый процесс

Один из проектов Extyl связан с предоставлением компаниям ИТ-специалистов по подписке. За коротким запросом заказчика здесь скрывается длинная последовательность действий: необходимо принять заявку, понять требования, найти подходящих специалистов, проверить их опыт, подготовить резюме, согласовать время встречи и проследить за дальнейшей коммуникацией.

Теперь значительную часть этой цепочки выполняет система из нескольких связанных ботов. Она получает заявку, ищет кандидатов, готовит материалы и помогает организовать созвоны. При этом люди из процесса не исчезли.

— Сотрудники остались, причём примерно в том же количестве. Но теперь они наблюдают за ботами, помогают им и корректируют результат, если система кого-то не нашла, неправильно подобрала специалиста или не справилась с ситуацией. Люди становятся своего рода надсмотрщиками над ИИ, — объясняет Олег Громов.

Изменилась не численность команды, а характер её работы. Раньше сотруднику приходилось вручную проходить каждый этап. Теперь он вмешивается в моменты, когда формального сравнения параметров недостаточно: нужно точнее понять запрос клиента, оценить необычный опыт кандидата или заметить, что предложенный системой человек подходит по навыкам, но не соответствует роли внутри конкретной команды.

Если искусственный интеллект временно исчезнет из такого процесса, компания сможет вернуться к прежней схеме. Люди снова начнут самостоятельно разбирать заявки, искать резюме и согласовывать встречи. Работа не остановится — она станет медленнее.

Именно скорость, а не обязательно сокращение числа сотрудников, часто определяет экономический результат внедрения. Если операция, занимавшая рабочий день, выполняется за несколько часов, человек может направить освободившееся время на общение с заказчиком, проверку результата или решение более сложной задачи.

Справка: чем ИИ-агент отличается от обычного чат-бота

Чат-бот обычно отвечает на конкретный запрос: составляет письмо, находит сведения или сокращает документ. ИИ-агент способен самостоятельно определить промежуточные действия, обратиться к доступным системам, обработать полученную информацию и запустить следующий этап процесса.

Несколько агентов могут работать как команда. Один получает заявку, второй ищет данные, третий готовит документ, четвёртый контролирует сроки. Но самостоятельность такой системы остаётся ограниченной правилами, правами доступа и целями, которые установили люди.

Чем длиннее автоматическая цепочка, тем важнее заранее определить, в какой момент агент обязан остановиться и передать задачу сотруднику.

Возможности ИИ особенно заметны там, где одна операция повторяется сотни или тысячи раз. Олег Громов приводит в пример системы компьютерного зрения, которые помогают контролировать процессы на предприятиях: фиксировать подозрительные действия, пересчитывать продукцию или обнаруживать отклонения. Даже небольшое повышение точности при большом количестве повторений способно дать компании заметную экономию.

Другой пример — разработанный Extyl продукт для автоматизации ведения социальных сетей. Пользователь загружает ссылку на новость, а система готовит публикацию с учётом заданной стилистики и тональности бренда. Человеку остаётся проверить текст и при необходимости его скорректировать.

В обоих случаях ИИ работает с задачами, которые требуют некоторого анализа, но имеют понятный результат и регулярно повторяются.

— В первую очередь искусственный интеллект забирает операции, которые вроде бы требуют когнитивных навыков, но остаются не слишком сложными. Рутинные действия он выполняет с нечеловеческой скоростью. Как только ситуация становится нестандартной, система часто теряется. Она может предложить решение, но его всё равно лучше обсуждать с человеком, — говорит Олег Громов.

Особенно хорошо это видно на примере банковских чат-ботов. Система быстро отвечает на стандартный вопрос о переводе или карте, но может оказаться бесполезной, если ситуация не укладывается в заранее предусмотренный сценарий. В результате клиент вынужден заново объяснять проблему оператору, а автоматизация вместо экономии времени создаёт дополнительное препятствие.

Причина заключается не только в несовершенстве конкретного бота. Общение включает контекст, эмоции, неявные намерения и опыт предыдущего взаимодействия. Человек может понять, что собеседник формулирует вопрос неточно или на самом деле пытается решить другую проблему. Для алгоритма подобный переход остаётся сложной задачей.

Поэтому Олег Громов не готов называть искусственный интеллект полноценным коллегой.

— Пока это очень мощный и быстрый инструмент. Возможно, через год, два или три он разовьётся до уровня коллеги, способного самостоятельно решать вопросы. Но сегодня человеку всё равно приходится наблюдать за его работой из-за возможных ошибок, сбоев и галлюцинаций.

Как попытка сократить людей превращается в саботаж

Даже технически удачная система может не заработать, если сотрудники воспринимают её как прямую угрозу. Особенно острое сопротивление возникает, когда компания открыто связывает внедрение ИИ с сокращением штата и одновременно просит людей подробно описать свои обязанности.

Фактически сотруднику предлагают передать знания, накопленные за годы работы, системе, которая должна сделать его должность ненужной. Рассчитывать в такой ситуации на заинтересованность и полное сотрудничество трудно.

— Главная ошибка — попытаться сразу сократить людей. Сотрудникам говорят: опишите ваши процессы, чтобы мы их автоматизировали, а потом вас уволили. Конечно, такое внедрение будет максимально саботироваться. Зачем человеку в нём помогать? — отмечает Олег Громов.

Сопротивление может принимать разные формы. Сотрудники передают неполные сведения, не рассказывают о редких сценариях, продолжают пользоваться старыми инструментами или формально выполняют требования, не доверяя результатам новой системы. В итоге руководство видит слабый эффект и делает вывод, что технология не работает, хотя причиной провала стало устройство самого проекта.

По мнению Громова, отправной точкой должен становиться не вопрос о количестве должностей, которые можно убрать, а конкретная потеря времени, качества или денег. Искусственный интеллект имеет смысл внедрять там, где он ускоряет операцию, помогает обрабатывать больший объём заявок или снижает число повторяющихся ошибок.

Это не означает, что автоматизация никогда не приводит к изменению численности команды. Но Олег Громов считает более надёжной модель, при которой рядом со старым процессом сначала создают новый. Его разрабатывает отдельная команда, после чего компания сравнивает две системы на практике. Только если ИИ-процесс действительно работает стабильнее и эффективнее, организационную структуру начинают менять — постепенно, сохраняя возможность вмешательства человека.

Российские исследования также пока не подтверждают сценарий стремительного исчезновения большого числа профессий. Анализ НИУ ВШЭ показал, что нейросети чаще становятся дополнением к существующей должности и усиливают ценность аналитических и управленческих компетенций. Наибольшую пользу получают квалифицированные специалисты, которые способны правильно поставить задачу, оценить качество ответа и встроить его в реальный процесс.

Сотрудник без профессиональных знаний может получить от нейросети убедительно выглядящий результат, но не заметить в нём фактическую, логическую или техническую ошибку. Поэтому умение написать хороший запрос не заменяет понимания отрасли.

Та же проблема возникает при создании автоматизированных решений. Современные инструменты позволяют человеку без большого опыта быстро получить работающий прототип сайта или программы. Однако внешняя убедительность ещё не говорит о надёжности продукта.

— Если цифровое решение создаёт не специалист, результат может выглядеть красиво, но внутри окажется вовсе не конфеткой. ИИ помогает архитекторам, аналитикам, программистам и тестировщикам делать ту же работу быстрее, но их квалификация никуда не исчезает, — подчёркивает Олег Громов.

Человек остаётся необходим и после запуска. Модель может давать приемлемый результат на пилоте, но со временем условия меняются: появляются новые клиенты, товары, документы и нестандартные ситуации. Если систему не проверять и не дополнять свежими данными, её точность будет постепенно снижаться.

Олег Громов обращает внимание на ошибку, при которой разработчики пытаются объяснить неверный ответ «излишней логичностью» алгоритма. На деле проблема обычно заключается в другом: система учитывает недостаточно факторов или обучена на неполной статистике.

— Допустим, для анализа использовали десять факторов, а нужно было тридцать. Значит, необходимо расширить данные и снова измерить точность. Эту работу нужно вести постоянно. Иначе число ошибок и связанные с ними денежные потери будут накапливаться, а в итоге компания просто свернёт внедрение.

Такой подход соответствует рекомендациям Национального института стандартов и технологий США. NIST указывает, что генеративные системы требуют разных уровней человеческого контроля в зависимости от области применения. Организациям необходимо отслеживать ошибки и опасные последствия, документировать инциденты, проводить дополнительную проверку результатов и заранее распределять ответственность между участниками процесса.

Чем выше возможный ущерб, тем меньше полномочий следует отдавать алгоритму без проверки. Искусственный интеллект может помочь проанализировать показатели сотрудника, но решение об увольнении нельзя сводить к рейтингу, который не учитывает отношения в команде, причины ошибок и обстоятельства работы. Он способен выявить подозрительную операцию, но не должен автоматически объявлять человека виновным.

Поэтому задачи этического характера Олег Громов не стал бы полностью передавать ИИ. Алгоритм может подготовить информацию и обратить внимание на закономерность, но ответственность за решение остаётся за человеком.

Кто будет управлять цифровыми сотрудниками

Системы на основе искусственного интеллекта создают в целом те же специалисты, которые разрабатывают другие цифровые продукты: архитекторы, аналитики, программисты, инженеры данных, тестировщики и специалисты по информационной безопасности.

Аналитик изучает процесс и выясняет, какую задачу компания пытается решить на самом деле. Архитектор определяет, как ИИ будет взаимодействовать с корпоративными сервисами и какую нагрузку должна выдерживать система. Инженеры данных готовят информацию, разработчики создают логику и интеграции, а тестировщики проверяют нормальные и аварийные сценарии.

Появляется и новая группа задач: необходимо настраивать поведение агентов, ограничивать их полномочия, оценивать точность, анализировать ошибки и определять случаи, когда решение должно переходить человеку. В исследовании Microsoft 28% опрошенных руководителей сообщили, что рассматривают возможность нанимать специалистов по управлению смешанными командами людей и агентов, а 32% — экспертов, которые будут проектировать и оптимизировать ИИ-агентов.

При этом массовое использование готовых нейросетей не означает, что рынок уже получил достаточное количество профессиональных разработчиков ИИ-систем. По данным НИУ ВШЭ, в 2025 году навыками работы с искусственным интеллектом обладали 37,5% занятых россиян. Однако продвинутый уровень, включающий создание и сопровождение ИИ-решений, был только у 3,2% работников. В эту группу входят ML-инженеры, разработчики ИИ, аналитики больших данных и менеджеры технологических проектов.

Разница между двумя уровнями принципиальна. Пользователь готового сервиса может составить текст, изображение или отчёт. Специалист должен встроить модель в инфраструктуру компании, защитить данные, определить допустимую точность и обеспечить работу системы после запуска.

Поэтому школьникам и студентам недостаточно научиться составлять эффектные запросы. Важно понимать основы программирования и алгоритмов, устройство цифровых систем, способы проверки результатов и ограничения моделей. Не меньшее значение имеют навыки общения.

Разработчику приходится выяснять, что заказчик действительно имеет в виду. Аналитику — переводить потребности бизнеса в понятные требования. Руководителю — объяснять сотрудникам, зачем внедряется новая система и что изменится в их работе.

— Когда человек может правильно сформулировать задачу, это уже большая часть успеха. Но для этого нужно не только уметь писать промпты. Необходимо слушать людей, понимать процесс и задавать уточняющие вопросы, — говорит Олег Громов.

В будущем обычный офисный сотрудник, по его прогнозу, будет работать сразу с несколькими цифровыми ассистентами. Один станет напоминать о сроках, другой — анализировать документы, третий — предупреждать о рисках. Человек будет распределять между ними задачи, проверять выводы и решать, когда можно довериться автоматическому сценарию, а когда необходимо вмешаться.

Но доступ к ИИ сам по себе не делает сотрудника эффективнее. Первое знакомство с инструментом нередко сопровождается раздражением: система неправильно понимает запрос, выдаёт банальный результат или создаёт неработающий код. По мнению Олега Громова, перелом происходит только после решения конкретной задачи.

Человеку можно предложить за ограниченное время создать простую посадочную страницу, подготовить отчёт или автоматизировать повторяющуюся операцию. Когда он видит, что самостоятельно получил работающий результат, недоверие сменяется пониманием возможностей технологии.

Полный отказ от новых инструментов, считает эксперт, со временем станет профессиональным ограничением. Сотрудник, выполняющий задачу за день, начнёт уступать специалисту сопоставимой квалификации, который с помощью ИИ справляется с ней за несколько часов. Однако начинать этот переход необходимо с обучения и практической пользы, а не с угроз увольнения.

Искусственный интеллект уже способен забирать целые рабочие цепочки. Но вместе с этим он создаёт новую работу: ставить ему задачи, контролировать, обучать, измерять точность и отвечать за последствия.

Поэтому преимущество получит не компания, которая быстрее всех оставит одного сотрудника из десяти. Впереди окажется та, где люди смогут передать алгоритмам повторяющиеся действия, не передав им право на окончательное решение.