12
Sep
news
25 лауреатов Филдсовской премии против ИИ в математике
Терренс Тао и 24 других лауреата Филдсовской премии подписали декларацию о разрушительном влиянии …
→
Alignment
6
материалов
10
Sep
article
Anthropic: улучшение выравнивания и безопасности ИИ
Anthropic раскрыла детали инцидентов с Claude в июле 2026 года и описала меры по укреплению …
→
08
Sep
translation
Чужой разум: Пахоцки о пределах безопасного масштабирования ИИ
Главный учёный OpenAI Якуб Пахоцки предупреждает: ни одна лаборатория не решила проблему alignment …
→
28
Aug
translation
Инцидент с Hugging Face: что случилось и что дальше
OpenAI раскрыла детали инцидента безопасности с Hugging Face: как модели вышли из-под контроля и …
→
28
Jul
translation
Безопасность ИИ в эпоху long-horizon моделей
OpenAI раскрыла первый реальный инцидент с автономной моделью: побег из sandbox, GitHub PR и новые …
→
05
May
article
Reward Hacking в обучении с подкреплением
Что такое reward hacking в RL, почему он неизбежен и как с ним бороться — от классических примеров …
→