Введение: когда «доверяй, но проверяй» становится индустриальным стандартом

Представьте: вы разрабатываете один из самых мощных ИИ в мире, и сами же нанимаете независимых экспертов, которые работают у вас в офисе, смотрят на процесс обучения изнутри и могут сигнализировать об опасности раньше, чем модель попадёт к пользователям. Именно это и сделала Anthropic 18 сентября 2026 года.

Accenture и Anthropic объявили о партнёрстве с целью создания команды встроенных оценщиков (embedded evaluators), которые будут работать совместно с внутренними командами Anthropic и партнёрами по безопасности — оценивать и атаковать модели (red-teaming), проводить оценки выравнивания и тестировать защитные механизмы.

Это не просто PR-ход. За соглашением стоит системный сдвиг в том, как индустрия подходит к безопасности frontier-моделей — и $2 млрд совокупных инвестиций в подтверждение серьёзности намерений.

Что такое embedded evaluation — и чем оно отличается от привычного аудита

Традиционная оценка безопасности ИИ выглядела примерно так: компания выпускает модель или её версию, внешние исследователи получают к ней ограниченный доступ, пишут отчёт. Проблема — к моменту публикации отчёта модель уже может быть в продакшне.

Embedded evaluation принципиально отличается: оценщики работают внутри AI-компании с доступом, аналогичным сотрудническому, а не изучают модели снаружи постфактум. Они могут наблюдать за моделями непосредственно в процессе обучения и отслеживать решения, принимаемые в ходе разработки и развёртывания.

Оценщики также могут напрямую общаться с сотрудниками. Независимые встроенные оценщики призваны обеспечить подтверждаемую подотчётность.

ℹ Ключевое отличие
Внешний аудит → оценщики смотрят на готовый продукт снаружи. Embedded evaluation → оценщики работают внутри компании, наблюдая за процессом в реальном времени, на всех стадиях — от обучения до деплоя.

Компании описали новый подход как предоставление «встроенным оценщикам» доступа, аналогичного сотрудническому: мониторинг процесса обучения и развёртывания моделей, оценка внутренних процессов и проверка выполнения обязательств по безопасности.

Контекст: эссе Дарио Амодеи и план замедления ИИ

Партнёрство нельзя рассматривать в отрыве от его идеологической основы.

12 сентября 2026 года Амодеи опубликовал трёхшаговый план замедления развития ИИ и создания условий для внедрения защитных механизмов — на фоне предупреждений о потенциальном катастрофическом ущербе от стремительного, бесконтрольного развития технологии.

Партнёрство с Accenture — важный шаг в реализации обязательства, взятого в эссе CEO «We Must Pace the Frontier»: встроить независимых оценщиков внутрь Anthropic.

Первый шаг плана Амодеи предоставляет сторонним оценщикам доступ уровня сотрудника для проверки практик безопасности и сообщения об инцидентах. Он заявил, что Anthropic «в одностороннем порядке» взяла на себя это обязательство и призвала другие AI-компании сделать то же самое.

«AI-системы могут ускорять прогресс через рекурсивное самосовершенствование — эффект, который при отсутствии контроля может выйти за пределы способности людей понимать технологию и управлять ею.» — Дарио Амодеи

Призыв Амодеи к действию был поддержан ведущими игроками отрасли, включая CEO OpenAI Сэма Альтмана и главу xAI Илона Маска.

Роль Faculty и технические задачи оценщиков

Accenture участвует в партнёрстве не напрямую, а через ключевое подразделение.

Партнёрство будет возглавлено Faculty — специализированным AI-бизнесом Accenture — и включает оценку и red-teaming моделей, проведение оценок выравнивания и тестирование защитных механизмов.

Faculty имеет подтверждённый опыт тестирования и оценки AI-систем для крупных исследовательских институтов, с предыдущими проектами в государственном секторе, обороне, здравоохранении и критической инфраструктуре.

Accenture задействует десятилетия инвестиций в ответственный ИИ, а также глубокую техническую и safety-экспертизу через приобретение Faculty — одной из ведущих мировых прикладных AI-компаний.


graph TD
    A[Anthropic — разработка frontier-моделей] --> B[Faculty / Accenture — embedded evaluators]
    B --> C[Red-teaming моделей]
    B --> D[Оценка выравнивания]
    B --> E[Тестирование защитных механизмов]
    B --> F[Оценка уязвимостей]
    C --> G[Отчёт и обратная связь]
    D --> G
    E --> G
    F --> G
    G --> A
💡 Почему именно Accenture, а не академический институт?

Accenture помогает бизнесу и правительствам развёртывать ИИ в самых разных отраслях. Понимание того, как предприятия используют ИИ на практике, определяет их подход к безопасности — и они привнесут эту перспективу в оценку моделей Anthropic.

То есть ставка сделана не на «чистую» исследовательскую организацию, а на экспертизу реального enterprise-деплоя — именно там живут настоящие риски.

Финансирование, независимость и открытые вопросы

Здесь начинается самое интересное — и самое спорное.

Инвестиции: $2 млрд за 5 лет

Anthropic и Accenture планируют инвестировать не менее $1 млрд каждая в развитие мощностей в этой области в течение следующих пяти лет.

Кто платит за работу оценщиков?

Учитывая важность и срочность этой работы, Anthropic будет напрямую финансировать работу Accenture. При этом в долгосрочной перспективе «финансирование должно поступать из объединённых или государственных источников».

Anthropic также ведёт диалог с METR и другими некоммерческими организациями-оценщиками для пилотирования элементов embedded evaluation с использованием их собственного финансирования.

ПараметрТекущее состояние
Инвестиции (суммарно)≥ $2 млрд за 5 лет
Финансирование работы FacultyAnthropic напрямую
ЭксклюзивностьНет — партнёрство открытое
Стандарты embedded evaluationВ разработке
Другие партнёрыMETR и другие (в переговорах)
Публичность отчётовНе определена
⚠ Риск: конфликт интересов

Прямое финансирование Accenture со стороны Anthropic может поставить под сомнение независимость оценщика. Критики вправе задаться вопросом: способен ли оценщик, финансируемый клиентом, жёстко критиковать Anthropic или публиковать негативные выводы без коммерческого давления?

На сегодняшний день не существует установленных стандартов, регулирующих доступ встроенного оценщика, права на отчётность, независимость или публичные раскрытия. Это фундаментальная проблема, которую отрасли ещё только предстоит решить.

Экосистема и долгосрочная перспектива

Неэксклюзивность как принцип

Anthropic считает, что frontier AI нуждается в экосистеме оценщиков, работающих с общими стандартами. Ожидается, что frontier-лаборатории будут работать с несколькими организациями одновременно. Партнёрство неэксклюзивно: Anthropic будет работать с другими оценщиками, которые будут объявлены в ближайшие недели, а Accenture — с другими AI-разработчиками в аналогичных ролях.

Может ли это стать новым рынком?

Если embedded evaluation станет стандартной практикой в отрасли, Accenture сможет превратить раннюю позицию Faculty в консалтинговый бизнес, охватывающий тестирование моделей, управление рисками, соответствие регуляторным требованиям и ответственное развёртывание ИИ.

Embedded evaluation в конечном счёте может создать возможности для консультантов, специалистов по безопасности и MSP, поддерживающих enterprise AI.

📝 Аналогия из финансового мира
Встроенные оценщики в AI чем-то похожи на внешних аудиторов в банковской отрасли: они не являются сотрудниками компании, но работают внутри неё, имея привилегированный доступ. Появление этой роли означает, что AI-безопасность созревает до уровня регулируемой финансовой отрасли.

Реакция индустрии

CEO OpenAI Сэм Альтман заявил, что его компания предоставит внешним оценщикам аналогичный доступ, а CEO Microsoft Сатья Наделла приветствовал практику встроенных оценщиков, предостерегая при этом от того, чтобы надзор контролировался лишь несколькими организациями.

CEO Nvidia Дженсен Хуанг не поддержал инициативу, утверждая, что подобное регулирование не является необходимым.

Заключение: поворотный момент для AI-safety

Партнёрство Anthropic и Accenture — первый реальный ответ на вопрос «как именно выглядит независимый надзор за frontier AI?». Не декларация намерений, а конкретная организационная структура с бюджетом, командой и заявленными задачами.

Ключевые выводы:

  • Embedded evaluation — качественно иной уровень надзора по сравнению с внешним аудитом: оценщики видят процесс изнутри.
  • $2 млрд совокупных инвестиций сигнализируют рынку: AI-safety превращается из исследовательской ниши в индустриальную практику.
  • Открытые вопросы — финансирование, стандарты, независимость — критически важны и пока не решены.
  • Неэксклюзивность партнёрства указывает на намерение Anthropic построить целую экосистему оценщиков, а не зависеть от одного игрока.

Компания подчеркнула, что по-прежнему несёт ответственность за безопасность своих моделей, и работа со встроенными оценщиками не снижает её подотчётности. «Мы делимся этими ранними усилиями сейчас, чтобы люди и другие AI-разработчики могли видеть наш процесс», — заявила Anthropic.

Для всей отрасли это означает одно: эпоха, когда AI-компания могла сама себя проверять и сама себе выставлять оценки, заканчивается.