Человеческий фактор — главное проблема в использовании ИИ

Человеческий фактор — это всё, что в работе зависит от людей: их знаний, мотивации, усталости, эмоций, привычек, ошибок и сильных сторон.

Это не только источник рисков, но и главный ресурс гибкости, креатива и адекватных решений в нестандартных ситуациях.

Обычно под человеческим фактором понимают совокупность психологических, когнитивных и физиологических особенностей, которые влияют на поведение и принятие решений в рабочем контексте.
Проще говоря — это то, как люди на самом деле ведут себя на работе, а не то, как должно быть по регламенту.

Но что происходит с человеческим фактором, когда в работу включаются ИИ-инструменты?

Как человеческий фактор влияет на работу?

В IT-сфере значительная часть работы — это чисто человеческий фактор. Именно он отвечает за то, как разобраться в задаче, как придумать решение, где найти креатив, уложиться в сроки и даже как «продать».

Сама реализация — хоть и занимает больше всего времени, на деле редко становится решающим фактором успеха проекта. Гораздо важнее то, как работает человек: его личность, привычки, стиль мышления и манера взаимодействия.

Ключевые сильные стороны, обеспечиваемые человеческим фактором:

• Гибкость и креатив — адаптация, нестандартные решения, реакция на изменения.

• Эмпатия и глубина — понимание пользователя, вдумчивость, ответственность за результат.

• Командная эффективность — чёткая коммуникация, распределение задач, соблюдение процессов (ревью, тесты, деплой).

• Обучаемость и улучшения — ретроспективы, разбор ошибок без вины, рост надёжности.

С другой стороны, из-за человеческого фактора возникают риски:

• Ошибки и невнимательность — опечатки, неправильный деплой, удаление данных, пропущенные тесты.

• Когнитивные искажения — «и так сойдёт», недооценка рисков.

• Усталость и выгорание — падение качества, раздражительность, работа «на автопилоте».

• Слабое управление требованиями — расплывчатые задачи, постоянные правки, отсутствие ясной цели.

• Нарушение процессов — формальное ревью, игнорирование чек-листов, обход безопасности.

• Конфликты и недоверие — сокрытие проблем, пассивная агрессия, подрыв чужих решений.

• Несоблюдение правил — слабые пароли, доступы в мессенджерах, софт из сомнительных источников.

• Лень и поверхностность — нежелание читать документацию или разбираться в чужом коде, работа «на глазок».

В IT до 70% инцидентов связаны не с техническими сбоями, а с ошибками или неосмотрительными действиями людей.

Главная сложность в том, что человеческий фактор нельзя полностью «починить» процессами или регламентами.

Нельзя по инструкции сделать человека более креативным — и точно так же нельзя навсегда избавить его от лени, усталости или самоуверенности.

Как на это влияют ИИ

ИИ‑инструменты одновременно усиливают и сглаживают человеческий фактор: часть типичных слабостей человека они компенсируют, часть еще больше усугубляют, но вместе с этим приносят и новые факторы.

Как ИИ может уменьшить минусы
Автоматизация берёт на себя то, где человек слабеет от усталости и рутины. Шаблонный код, проверка стиля, автоматические тесты — всё это делает работу быстрее и проще. Когда «лень читать доку», ассистенты пересказывают документы и объясняют код, снижая барьер входа. А аналитические системы действуют как беспристрастный наблюдатель, подсказывая аномалии и уязвимости там, где человек под давлением времени их пропустил бы.

Как ИИ усиливает минусы
Но та же автоматизация делает лень еще более доступной. Человек начинает просить «сделай за меня» всё больше, качество падает, и в итоге даже проверять результат перестают. Линтеры и тест-генераторы ловят ошибки, но создают ложное чувство безопасности — люди бездумно жмут accept, и глаз замыливается ещё сильнее. Возникает иллюзия: «раз умный инструмент сделал, значит всё хорошо», и мотивация тестировать крайние кейсы исчезает. Решения становятся поверхностными — без продумывания бизнес-аспектов, без «архитектуры на будущее».

Новые факторы:

• Перекладывание ответственности на модель. Соблазн «поверить ИИ на слово» снижает глубину проверки — ревью проводят реже, а системные ошибки ИИ остаются незамеченными

• Деградация навыков и критического мышления. При постоянном автодополнении работники хуже разбираются в своей области и меньше учатся

• Иллюзия продуктивности. Код пишется быстрее, но скрытых дефектов и времени на отладку становится больше

• Потеря контекста проекта. Логика и бизнес-знания не усваиваются, потому что анализировал и решал не человек.

• Слепая уверенность и отсутствие верификации. Выводы ИИ воспринимаются как истина без проверки фактов и логики

• Проблема «галлюцинаций». Убедительно звучащие, но неверные данные повышают риск сделать совсем не то, что планировалось.

Базовые методы решения

Влияние человеческого фактора невозможно устранить полностью, но его можно существенно снизить с помощью системного подхода, автоматизации и культуры ответственности.

На практике борьба строится через внедрение обязательных этапов работы: каждая задача проходит через ревью технического задания, проверку линтерами, автотесты, ручное тестирование и финальное ревью лидом.

Параллельно все рутинные операции, где человек легко ошибается из-за усталости или рассеянности, переводятся на автоматизацию или дублируются проверками коллег.

Четкие стандарты и формализованные процессы снижают вариативность решений — когда есть внятный чек-лист, меньше пространства для импровизации. Но технические меры работают только вместе с правильной культурой: команда должна открыто разбирать инциденты, признавать ошибки и искать системные решения.

Завершает картину система метрик качества, которая делает проблемы видимыми и помогает понять, где именно они возникают.

Может ли помочь с этим ИИ?

При использовании ИИ человеческий фактор усугубляется — специалист теряет навыки, перестает проверять результат и слепо доверяет машине. Но есть еще другой вариант: ИИ используется не только для реализации задач, но и для контроля качества работы.

Идея простая: человек делает задачу как считает нужным — сам или с помощью ИИ — а затем ИИ проверяет результат на каждом этапе: анализирует техническое задание, валидирует архитектуру, ревьюит код, генерирует тесты и проверяет покрытие, анализирует логи и метрики. Это создает дополнительный слой проверки, который компенсирует невнимательность, усталость и оптимизм человека. Проверки лишними не бывают.

Но даже в роли проверяющего ИИ не работает сам по себе. Он тоже ошибается, пропускает проблемы или дает ложные срабатывания — доверять его выводам слепо нельзя. Поэтому результаты проверки ИИ должны проходить через человеческое ревью, а лучше — через несколько этапов проверок разными людьми. Специалистов нужно учить распознавать типичные ошибки моделей, не принимать их выводы на веру и задавать вопрос "почему ИИ так решил?".

Регулярные разборы инцидентов — почему они произошли и почему не отловились на проверке — помогают команде держать критическое мышление в тонусе. Культура должна быть четкой: цель — проверить корректность работы, независимо от того, кто ее делал. Просто если в работе участвовал ИИ, проверки должны быть особенно тщательными.

Контекст проекта и бизнеса

По моему мнению, самый основной проблемой в текущий момент можно считать «понимания бизнеса». Всегда в проекте ценились люди которые понимают как и почему все работает, именно они могли и подсказать как лучше сделать задачу, какие есть грабли, а из за чего же все упало.

А что будет сейчас?
Будет ли аналитик в контексте бизнеса, прочитает ли он все ТЗ за ИИ, если он сделал ТЗ через ИИ?
Будет ли разраб полностью знать как работает код, если половину сгенерила ИИ?

Чем раньше или чаще будет допущена ошибка, тем более сильными окажутся последствия для работы
Когда мы делаем задачу, мы проживаем ее бизнес логику, именно по этому мы хорошо разбираемся в проекте и знаем его вдоль и поперек.

С внедрением ИИ есть шанс терять такие знания, и все меньше быть в контексте. Придя к тому, что каждый раз, при нахождении бага, надо будет тратить пару дней, чтоб разобраться, как это работает и как должно работать.

Итог

В этой статье я делал акцент больше на плохие примеры.
В целом, ИИ может и улучшить ситуацию. Это хороший и классный инструмент. (Есть множество статей с примерами плюсов).
Но человеческая натура стремится к лени, надо каждый раз прилагать усилия чтоб не ленится.

ИИ как ни крути все больше будет участвовать в нашей жизни и работе - это факт.
И нам, и руководителям, и менеджерам, и управленцам и лидам, надо уделять особое внимание управлению командой и проверять выполнения задач.

Выстраивать особые процессы контроля, если понимаем что в команде активно используются ИИ инструменты, и могут быть такие человеческие факторы.

Ну или просто увольнять всех кто вайбкодит без проверки :-)