Когда скорость атаки диктует скорость защиты

Команды безопасности в финтех-компаниях сегодня находятся под давлением с обеих сторон: злоумышленники применяют генеративный AI для ускорения написания эксплойтов, тогда как защитники с трудом успевают справляться с разрастающейся облачной инфраструктурой и устаревшими системами. Именно в этом контексте компания Block — создатель платёжных сервисов Square, Cash App и Afterpay — решила переосмыслить подход к корпоративной кибербезопасности, сделав ставку на искусственный интеллект.

В Block команда безопасности использует так называемый OpenAI Defense Factory (программу OpenAI по применению ИИ в киберзащите), где AI берёт на себя обнаружение уязвимостей, выявление угроз и реагирование на них в масштабах, недоступных для человеческой команды.

ℹ Что такое OpenAI Defense Factory?
OpenAI Defense Factory — это программа OpenAI, направленная на применение передовых языковых моделей непосредственно в задачах киберзащиты предприятий. Акцент делается не просто на поиске уязвимостей, но и на генерации верифицированных исправлений (патчей).

Ключевые цифры: от недель к минутам

Благодаря AI-системам, включая OpenAI Daybreak (специализированный оркестратор задач безопасности), Block выполняет за несколько часов работу, которая прежде занимала недели.

Вот как выглядит реальная картина в цифрах:

ЗадачаБыло (до AI)Стало (с AI)
Проверка нового правила детектирования по 7 месяцам логовДни / неделиМенее 1 часа
Предложение патча (исправления уязвимости)Часы / дни18 минут
Ложные срабатывания (false positives) — ручная сортировкаСотни часов~600 часов аналитика в квартал — высвобождены
Расследование инцидентов (investigations)Выборочно~1 100 часов аналитика в квартал — выполняется AI

По словам CISO Джеймса Неттесхайма (James Nettesheim): «Система выполняет ~1 100 аналитических часов расследований в квартал, потому что каждый алерт теперь получает полное, глубокое расследование по всем задействованным элементам. Наша система работает с каждым алертом так, словно это единственный алерт за весь день».

💡 Что такое false positive?
False positive (ложное срабатывание) — это сигнал тревоги, который система безопасности генерирует по ошибке, принимая безопасное действие за угрозу. Чем больше таких «пустышек», тем больше времени аналитики тратят впустую.

Как работает связка Daybreak + Defense Factory

Новый рабочий процесс Block использует модели OpenAI, включая Daybreak, на всех этапах: обнаружение уязвимостей, инжиниринг правил детектирования, расследование и реагирование.

Если раньше команды безопасности применяли машинное обучение лишь для ранжирования алертов, то теперь Block поручает AI-агентам выполнять длинные последовательности следственных действий: связывать улики из разных инструментов, оценивать возможность эксплуатации уязвимости, находить затронутый код и предлагать ответные меры.


graph TD
    A[🔔 Алерт / Уязвимость] --> B[Daybreak анализирует контекст]
    B --> C[Поиск связанных индикаторов в логах]
    C --> D[Построение цепочки атаки]
    D --> E[Предложение патча за 18 минут]
    E --> F[Человек-аналитик: проверка и валидация]
    F --> G{Утверждено?}
    G -- Да --> H[🚀 Деплой исправления]
    G -- Нет --> B

Реальный кейс: из рутинного алерта — в раскрытие кампании

В отличие от традиционных сканеров, которые фиксируют единичную уязвимость изолированно, команда Block с помощью Daybreak может строить гипотезы об атакующих сценариях и выстраивать цепочки последовательных атак в единый сквозной путь компрометации, выявляя уязвимости, которые могли существовать годами.

В одном из случаев алерт на единственном ноутбуке выглядел как незначительная проблема с политикой. Но в ходе анализа модель обнаружила косвенный индикатор в доказательной базе, сопоставила его с журналами идентификации Block и выявила гораздо более широкий круг проблем.

«Один рутинный алерт на конечном устройстве обернулся ликвидацией целой кампании. Ни один отдельный инструмент не способен сделать такую связку.» — команда безопасности Block

Red team за 2 часа вместо нескольких дней

В ходе упражнения red team (имитации атаки для проверки защиты) модель получила лишь несколько подсказок о внутренней системе — и собрала полный путь атаки примерно за два часа, пройдя путь от уязвимости в базе данных через повышение привилегий, захват учётных данных и до перемещения в другие системы.

По данным Block, AI-система составила карту пути атаки примерно за два часа — в сравнении с несколькими днями для человека-тестировщика.

Философия: не автоматизация, а новый член команды

«AI сжимает время от намерения человека до действия. Долгое время считалось, что преимущество на стороне атакующих, поскольку они быстрее и манёвреннее. Но с появлением Daybreak и инструментов OpenAI защитники получили возможность бороться с огнём огнём и не отставать от стремительного темпа внедрения AI».

«В основе этого — новый член команды, с которым можно масштабироваться», — говорит Джеймс Неттесхайм. «Это не традиционная автоматизация, где нужно идти шаг за шагом. Можно задать достаточно специфическую, неоднозначную задачу и прорабатывать её вместе».

⚠ Человек остаётся в контуре принятия решений
Несмотря на впечатляющую скорость AI, в Block придерживаются чёткого правила: компания использует технологии OpenAI для расследования угроз, тестирования изменений в детектировании, построения путей атак и подготовки исправлений кода, однако люди-рецензенты по-прежнему валидируют результаты и контролируют деплой. Это принципиально важно: алерты, которые AI не смог расследовать уверенно, не уходят в продакшн без человеческой проверки.

Цикл исправления уязвимости: предложить → подтвердить → проверить

Процесс, описанный руководством по безопасности Block, следует по петле: предложить патч, подтвердить, что уязвимость действительно эксплуатируема, затем убедиться, что патч закрывает брешь — и всё это с человеком в контуре, направляющим процесс и принимающим окончательное решение о деплое.

Заявленный акцент программы Defense Factory, согласно формулировкам самой OpenAI, — создание верифицированных исправлений, а не просто генерация списков потенциальных уязвимостей. Это принципиальное различие для команд безопасности, и без того тонущих в неприоритизированном выводе сканеров.

📝 Почему это важно для финтеха
Block управляет Square, Cash App и Afterpay — это миллионы транзакций ежедневно. Уязвимость, найденная и закрытая за 18 минут, а не за несколько дней, — это не просто KPI команды безопасности. Это прямая защита денег и данных миллионов пользователей.

Симметрия угрозы: AI работает для обеих сторон

Главная новость не в том, что AI умеет находить баги, — а в том, что AI теперь способен рассуждать о цепочках багов так, как это делает человек-атакующий. И эта возможность симметрична: она помогает тому, кто ею пользуется, — защитнику или атакующему.

Раскрытие информации, сделанное совместно OpenAI и Block, является одним из наиболее явных публичных примеров того, как крупная финтех-компания передаёт значительную часть задач по обнаружению уязвимостей, детектированию и реагированию автономным AI-агентам — при этом человек по-прежнему подписывается под каждым внедряемым исправлением.

Итог: шаблон для индустрии?

Подход Block, построенный вокруг программы OpenAI Defense Factory и оркестратора маршрутизации моделей Daybreak, преподносится обеими компаниями как шаблон того, как корпоративные команды безопасности могут работать в будущем.

Конечно, пока это результаты, заявленные самими участниками кейса. Это данные компании, представленные в материале OpenAI, а не независимая оценка. Однако сами цифры — 18 минут на патч, менее часа на прогон детектирования по 7 месяцам телеметрии, 600 высвобождённых аналитических часов в квартал — говорят о том, что мы наблюдаем качественный переход в корпоративной кибербезопасности.

Будущее защиты — не в том, чтобы нанять больше аналитиков, а в том, чтобы дать каждому алерту внимание, которого он заслуживает. AI делает это возможным.