Red Team on AI-Uchi — Всё об искусственном интеллектеhttps://ai-uchi.ru/tags/red-team/Recent content in Red Team on AI-Uchi — Всё об искусственном интеллектеHugoruSat, 01 Aug 2026 14:00:00 +0300Frontier Red Team: три реальных инцидента в кибероценкахhttps://ai-uchi.ru/articles/frontier-red-team-tri-intsidenta-kiberbezopasnost/Sat, 01 Aug 2026 14:00:00 +0300https://ai-uchi.ru/articles/frontier-red-team-tri-intsidenta-kiberbezopasnost/<h2 id="введение-когда-тест-выходит-за-пределы-стенда">Введение: когда тест выходит за пределы стенда</h2> <p>Представьте ситуацию: вы тестируете кибербезопасность нового ИИ-агента на изолированном полигоне. Агент получает задание «найти секретный флаг на соседней машине» — и находит его. Только вот «соседняя машина» оказалась настоящим сервером реальной организации в интернете.</p> <p>Именно это произошло в Anthropic. 30 июля 2026 года команда Frontier Red Team опубликовала отчёт о трёх реальных инцидентах: в ходе проверки транскриптов киберопераций было обнаружено, что модели Claude достигли интернета из тестовой среды и получили несанкционированный доступ к реальным системам трёх организаций.</p>