ИИ и ответственность: кто платит за ошибки нейросетей
Немецкий суд признал Google ответственным за ложные заявления AI Overviews. Разбираем прецедент и его последствия для всей ИИ-индустрии.
ИИ и ответственность: кто платит за ошибки нейросетей
В июне 2026 года немецкий суд вынес решение, которое может изменить правила игры для всей индустрии искусственного интеллекта. Суд постановил, что Google несёт прямую ответственность за то, что говорят его AI Overviews (сводки на основе ИИ) в поисковой выдаче. Известный специалист по кибербезопасности Брюс Шнайер прокомментировал это решение — и его позиция заслуживает подробного разбора.
Что случилось в Мюнхене
Земельный суд Мюнхена вынес временный судебный запрет, запрещающий Google распространять ложные утверждения о двух мюнхенских издательствах через свои AI-сводки (дело № 26 O 869/26).
AI Overviews Google ложно связывали два издательства с мошенническими схемами, ловушками платных подписок и сомнительными деловыми практиками. По данным суда, ИИ перепутал информацию о других, действительно недобросовестных компаниях с истцами и провёл связи, которые не фигурировали ни в одном из источников.
Почему старые правила не работают
До сих пор поисковые системы в Германии пользовались ограниченной правовой защитой: они лишь указывали на сторонние сайты, но не создавали контент самостоятельно. Обычная поисковая система просто ссылается на внешние сайты. Но AI Overviews генерируют «независимые, новые и содержательные утверждения», оценивая и комбинируя контент из различных сторонних источников.
Суд классифицировал Google как прямого нарушителя, поскольку «AI Overview» является его собственным контентом, а не просто списком результатов поиска.
Аналогия из прессового права оказалась очень точной: суд провёл параллель с законодательством о СМИ, где издатели несут ответственность за анонсы, понятные сами по себе, даже если читатели никогда не прочитают полную статью.
Позиция Брюса Шнайера: агент — это агент
Брюс Шнайер — преподаватель публичной политики в Гарвардской школе Кеннеди и научный сотрудник Центра Беркмана-Кляйна по интернету и обществу, которого The Economist называет «гуру безопасности». Его позиция по данному делу сформулирована чётко и принципиально.
Шнайер утверждает: AI-агенты (AI agents) — это агенты той организации, которая их развёртывает, и закон должен относиться к ним именно так. Логика проста: если бы компания наняла живых журналистов для написания сводок, она несла бы ответственность за ошибки в этих сводках. Использование ИИ вместо людей не должно превращаться в лазейку для уклонения от ответственности.
«Любая компания, которая не готова отвечать за заявления своих агентов — будь то люди или ИИ — не заслуживает ни времени, ни денег пользователей.»
— Брюс Шнайер
В законе нет ничего, что обязывало бы нас мириться с ИИ-системами, если они принципиально ненадёжны — точно так же, как мы не обязаны мириться с ненадёжными людьми. Любая компания, не готовая отвечать за заявления своих агентов — людей или ИИ, — не заслуживает ни времени, ни денег пользователей.
Как суд опроверг аргументы Google
Google выдвинул два основных возражения. Суд отклонил оба.
Аргумент 1: «Пользователи могут проверить источники сами»
Google утверждал, что пользователи могут самостоятельно проверить связанные источники и что люди в целом знают: информации, созданной ИИ, не следует слепо доверять. Суд отверг эту защиту, констатировав, что возможность опровергнуть утверждение через дальнейшее исследование не освобождает от ответственности за само это утверждение.
Данные о поведении пользователей красноречиво подтверждают позицию суда: анализ Pew Research Center за июль 2025 года, охвативший 900 взрослых американцев, поделившихся данными о своём браузинге, показал, что пользователи Google, столкнувшиеся с AI-сводкой, кликали по обычному результату поиска лишь в 8% случаев, тогда как без AI-сводки этот показатель составлял 15%. По ссылке внутри самой AI-сводки кликали лишь в 1% случаев.
Аргумент 2: «Это просто поисковая функция»
До сих пор правовой статус AI-сгенерированных поисковых ответов оставался открытым вопросом: они защищены как результаты поиска или же являются публикацией? Суд дал ответ, по крайней мере в Германии: это публикация — а значит, компания, управляющая моделью, может быть привлечена к ответственности за клевету, когда модель ошибается.
Обычный поиск: Google показывает ссылку на статью, где написано «Компания X связана с мошенничеством».
AI Overview: Google сам заявляет: «Компания X связана с мошенничеством» — синтезируя и переформулируя информацию из разных источников в собственное утверждение.
Именно это различие стало основой судебного решения.
Схема ответственности: кто за что отвечает
graph TD
A[Пользователь вводит запрос] --> B[AI Overview генерирует ответ]
B --> C{Ответ содержит ошибку?}
C -- Нет --> D[Всё в порядке]
C -- Да --> E[Ущерб репутации / финансовый ущерб]
E --> F[Кто несёт ответственность?]
F --> G[Старая логика: третьи стороны — источники]
F --> H[Новая логика по решению суда: Google как автор]
H --> I[Прямая юридическая ответственность компании]
G --> J[Ограниченная ответственность поисковика]
style H fill:#ff6b6b,color:#fff
style I fill:#ff6b6b,color:#fff
style J fill:#aaa,color:#fff
Сравнение: человек-автор vs. ИИ-агент
| Критерий | Журналист-человек | AI Overview |
|---|---|---|
| Кто создаёт контент | Человек | Алгоритм компании |
| Кто несёт ответственность (исторически) | Редакция/издатель | Спорно / никто |
| Кто несёт ответственность (после решения суда) | Редакция/издатель | Google (разработчик) |
| Возможность проверки до публикации | Есть | Технически возможна |
| Скорость создания | Часы/дни | Миллисекунды |
| Масштаб распространения | Ограниченный | Миллиарды запросов |
Что будет дальше
Google заявил, что намерен обжаловать немецкое судебное решение, обязывающее компанию напрямую отвечать за ложные утверждения в AI Overviews. Компания подтвердила подачу апелляции 12 июня 2026 года.
Мюнхенское решение является временным судебным запретом, а не окончательным словом по вопросу об ответственности ИИ-поиска. Тем не менее прецедент уже создан, и его влияние выходит далеко за пределы Германии.
Всё это происходит на фоне того, как Google активно внедряет AI Overviews и Gemini в поиск по всей Европе, где регуляторы уже проявляют повышенный интерес. Требования EU AI Act (Закона ЕС об ИИ) по прозрачности для систем, взаимодействующих с пользователями, вступают в силу 2 августа 2026 года.
Для всей отрасли ИИ это предупредительный выстрел: защита в стиле «это просто галлюцинация модели» может не выдержать столкновения с залом суда.
Почему это важно для России и СНГ
Российские компании, использующие ИИ-агентов в своих сервисах — будь то чат-боты на сайтах, системы автоматической генерации описаний товаров или ИИ-ассистенты в банках — должны уже сейчас задуматься о правовых рисках. Логика немецкого суда универсальна: если ваш ИИ говорит что-то от вашего имени — это ваши слова.
Это касается:
- Маркетплейсов, где ИИ генерирует описания продавцов
- Медиаплатформ, использующих автосводки новостей
- Банков и финтех-компаний с ИИ-советниками
- Поисковых сервисов с генеративными ответами (Яндекс с нейросетевым поиском — очевидный пример)
Вывод
Мюнхенское решение — это не просто локальный юридический казус. Это первый внятный ответ на вопрос, который отрасль избегала: кто несёт ответственность, когда ИИ лжёт?
Это одно из первых решений, проверяющих, кто несёт ответственность, когда генеративный ИИ ошибается, — и ответ звучит однозначно: компания, которая его создала.
Шнайер прав: мы не обязаны строить правовую систему вокруг удобства компаний, которые не хотят отвечать за своих «сотрудников» — будь они из плоти и крови или из весов нейронной сети. Эпоха безнаказанных галлюцинаций, возможно, подходит к концу.