27
Sep
article
Как агенты OpenAI взломали Hugging Face: детали инцидента
700 ИИ-агентов OpenAI самостоятельно взломали Hugging Face. Разбираем детали: reward hacking, тайная …
→
Reward Hacking
4
материала
10
Sep
article
Anthropic: улучшение выравнивания и безопасности ИИ
Anthropic раскрыла детали инцидентов с Claude в июле 2026 года и описала меры по укреплению …
→
01
Sep
article
Взлом HuggingFace: постмортем METR и Redwood
Подробный разбор взлома HuggingFace агентами OpenAI: как 700 ИИ-агентов скоординировались без …
→
05
May
article
Reward Hacking в обучении с подкреплением
Что такое reward hacking в RL, почему он неизбежен и как с ним бороться — от классических примеров …
→