Доверие к ИИ в 2026: эпоха агентных систем
McKinsey исследовал зрелость ответственного ИИ у 500 организаций. Средний балл вырос до 2,3, но агентные системы создают новые риски, к которым большинство компаний не готовы.
Два года назад компании боялись, что ИИ скажет что-то не то. Сегодня они боятся, что ИИ сделает что-то не то — и никто не заметит.
Это не игра слов. Это принципиальный сдвиг, который зафиксировал McKinsey в своём свежем отчёте State of AI Trust in 2026: Shifting to the Agentic Era. Исследование охватило около 500 организаций по всему миру (опрос проводился в декабре 2025 — январе 2026 года) и показало: индустрия стоит на пороге новой парадигмы — агентного ИИ, где модели не просто отвечают на вопросы, а автономно выполняют задачи, управляют инструментами и принимают решения.
Доверие к таким системам строится по другим законам. И большинство компаний к этому не готовы.
Что изменилось: от чат-ботов к агентам
Генеративный ИИ образца 2023–2024 годов был, по сути, продвинутым автодополнением. Пользователь спрашивал — система отвечала. Риск заключался в галлюцинациях, предвзятости или некорректном тоне.
Агентный ИИ работает иначе. Он получает цель, самостоятельно разбивает её на шаги, обращается к внешним инструментам (API, базам данных, браузеру), принимает промежуточные решения и выполняет действия в реальном мире — бронирует, отправляет, удаляет, изменяет.
В эпоху агентного ИИ организации больше не могут заботиться только о том, что система скажет неправильно. Теперь надо думать о том, что она сделает неправильно: предпримет непредвиденные действия, злоупотребит инструментами или выйдет за пределы допустимых ограничений. — McKinsey, State of AI Trust 2026
По данным исследования, 97% руководителей сообщили, что их компания уже развернула агентные системы в прошлом году. При этом 52% сотрудников уже используют агентов в рабочих процессах. Масштаб внедрения колоссальный — и именно это делает вопрос доверия критически важным.
RAI-зрелость в 2026: прогресс есть, но он неравномерный
McKinsey оценивает организации по пятибалльной шкале ответственного ИИ (RAI — Responsible AI). В 2026 году в модель добавили пятое измерение, специально для агентных систем. Итого пять осей:
- Стратегия — насколько RAI встроен в корпоративную повестку
- Управление рисками — процессы выявления и снижения AI-рисков
- Данные и технологии — качество данных, модели, инфраструктура
- Управление (governance) — политики, роли, ответственность
- Управление агентным ИИ (новое в 2026) — специфические контроли для автономных систем
graph TD
A[RAI-зрелость организации] --> B[Стратегия]
A --> C[Управление рисками]
A --> D[Данные и технологии]
A --> E[Корпоративное управление]
A --> F[Агентный AI — новое 2026]
B --> G[Средний балл: 2.3/5]
C --> G
D --> G
E --> G
F --> H[Наиболее слабая ось]
Средний балл RAI в 2026 году составил 2,3 — рост по сравнению с 2,0 в 2025-м. Прогресс есть, но важен контекст: балл 2 означает начальный уровень, балл 3 — управляемый. И лишь около трети организаций преодолели отметку 3,0 хотя бы по одному из измерений стратегии, управления и специфического управления агентами.
Проще говоря: большинство компаний по-прежнему находятся в состоянии «делаем, но системно не управляем».
Кто лидирует
| Отрасль | Позиция | Ключевые преимущества |
|---|---|---|
| Технологии, медиа, телеком | Лидеры | Сильные data-фундаменты, культура риск-менеджмента |
| Финансовые услуги | Лидеры | Регуляторный опыт, зрелые governance-процессы |
| Здравоохранение | Середина | Высокие требования к безопасности данных |
| Ретейл и FMCG | Отстающие | Низкая формализация AI-процессов |
| Производство | Отстающие | Разрыв между OT и IT |
Технологический и финансовый секторы лидируют не случайно: у них годами формировались процессы управления рисками, а регуляторное давление вынуждало выстраивать governance-структуры задолго до AGI-хайпа.
Новые риски агентной эры
Агентные системы создают качественно новые категории угроз, которых у традиционных LLM не было:
1. Непредвиденные действия. Агент, оптимизируя задачу, может совершить действия, которые логически следуют из цели, но не были предусмотрены пользователем. Например, при очистке дублирующихся записей в CRM удалить «ненужные» контакты, оказавшиеся ключевыми клиентами.
2. Злоупотребление инструментами. Агенты имеют доступ к API, базам данных, внешним сервисам. Исследование зафиксировало, что большинство организаций не имеют последовательного способа выдачи, отслеживания и отзыва учётных данных AI-агентов. Агенты нередко работают с избыточными разрешениями и без аудита действий.
3. Слепые зоны в мониторинге. Почти 49% организаций полностью не видят трафик между машинами — то есть не могут отследить, что их агент делает «за кулисами», взаимодействуя с другими системами.
4. Утечки данных через теневой ИИ. 67% руководителей считают, что их компания уже пострадала от утечки данных из-за неавторизованных AI-инструментов. Сотрудники используют потребительские агенты для корпоративных задач — со всеми вытекающими рисками.
5. Распад ответственности. Когда цепочка решений проходит через несколько агентов и систем, установить, кто «принял» конкретное решение, становится крайне сложно.
Разрыв между амбициями и реальностью
Данные McKinsey рисуют картину масштабного разрыва между тем, что компании декларируют, и тем, что происходит на практике:
- 73% организаций признают разрыв между агентными амбициями и реальным развёртыванием
- Лишь 11% AI-кейсов достигли полного производственного статуса в прошлом году
- 79% организаций испытывают сложности с внедрением ИИ — это двузначный рост по сравнению с 2025-м
- 54% топ-менеджеров говорят, что внедрение ИИ «разрывает» их компанию изнутри
Масштабирование ИИ — это не только технический вопрос. Это организационная трансформация, и большинство компаний недооценили её сложность.
Парадокс: бюджеты растут. Более 35% крупных предприятий выделяют на агентный ИИ свыше 5 миллионов долларов. Но инвестиции в технологии не конвертируются в зрелость управления — governance по-прежнему отстаёт.
Как строить доверие к агентному ИИ: практические шаги
McKinsey и другие эксперты выделяют несколько ключевых направлений, по которым организации должны работать прямо сейчас:
1. Архитектура «минимальных привилегий» для агентов
По аналогии с принципом наименьших привилегий в кибербезопасности: агент должен иметь доступ ровно к тем инструментам и данным, которые нужны для конкретной задачи — не больше. Каждое разрешение фиксируется, каждое действие логируется.
2. Human-in-the-loop на критических узлах
Не каждое решение агента требует подтверждения человека — это убивает эффективность. Но ключевые точки невозврата (отправка платежа, удаление данных, внешняя коммуникация) должны требовать явного человеческого одобрения.
3. Новое измерение RAI: специфический аудит агентов
McKinsey добавил пятое измерение в свою модель не случайно. Организациям нужны отдельные политики, роли и процессы именно для агентных систем — их нельзя просто «унаследовать» от общих AI-политик.
4. Мониторинг machine-to-machine трафика
Почти половина компаний слепа к тому, что делают агенты. Это нужно исправить — через observability-инструменты, логирование взаимодействий и регулярные аудиты агентных цепочек.
5. Внешние guardrail-сервисы
К концу 2026 года более 50% предприятий будут использовать сторонние сервисы для создания и надзора за guardrails AI-агентов — вместо того чтобы полагаться на встроенные ограничения платформ. Это признак того, что задача стала специализированной индустрией.
graph LR
A[Задача агенту] --> B{Уровень риска?}
B -- Низкий --> C[Автономное выполнение]
B -- Средний --> D[Выполнение + лог для аудита]
B -- Высокий --> E[Запрос подтверждения человека]
C --> F[Логирование]
D --> F
E --> G{Одобрено?}
G -- Да --> F
G -- Нет --> H[Отмена / эскалация]
F --> I[Аудит и мониторинг]
Выводы: доверие как конкурентное преимущество
Отчёт McKinsey подчёркивает важную мысль: доверие к ИИ — это не про этику ради этики. Это про экономику. Организации с более высоким RAI-баллом быстрее масштабируют AI-решения, реже сталкиваются с инцидентами и получают бо́льшую отдачу от инвестиций в ИИ.
Доверие — это то, что позволяет агентам работать с меньшим human-in-the-loop, а значит реализовывать их настоящий потенциал автоматизации.
Ключевые выводы для руководителей:
- Средний балл RAI 2,3 из 5 — это мало. Большинство компаний находятся на уровне «делаем, но не управляем». Путь к уровню 3+ требует целенаправленных инвестиций в governance.
- Агентный ИИ — новая категория риска. Старые политики и процессы не работают. Нужны специфические механизмы контроля для автономных систем.
- Разрыв между деплойментом и управлением опасен. 97% компаний уже запустили агентов, 36% не имеют плана надзора за ними. Это уравнение с трагическим потенциалом.
- Инвестиции в доверие — это инвестиции в масштабирование. Не наоборот.
Агентная эра наступила раньше, чем большинство компаний успели подготовиться. Вопрос уже не в том, развёртывать ли агентный ИИ — он уже везде. Вопрос в том, удастся ли выстроить доверие к нему достаточно быстро, чтобы получить выгоды раньше, чем произойдёт первый серьёзный инцидент.