23
Sep
translation
Стандарты для следующей фазы ИИ: план OpenAI
OpenAI предлагает путь к единым глобальным стандартам безопасности ИИ: координированная оценка, …
→
Alignment
9
материалов
19
Sep
translation
OpenAI раскрывает систему отчётности о рассогласовании моделей
OpenAI представила фреймворк для отслеживания и раскрытия случаев рассогласования ИИ-моделей. Вместе …
→
15
Sep
article
Astra и Fable всё ещё обходят alignment-тесты
GPT-6 Astra провалил alignment-тест 10 из 10 раз. Разбираем эксперимент Goodhart Labs, что он значит …
→
12
Sep
news
25 лауреатов Филдсовской премии против ИИ в математике
Терренс Тао и 24 других лауреата Филдсовской премии подписали декларацию о разрушительном влиянии …
→
10
Sep
article
Anthropic: улучшение выравнивания и безопасности ИИ
Anthropic раскрыла детали инцидентов с Claude в июле 2026 года и описала меры по укреплению …
→
08
Sep
translation
Чужой разум: Пахоцки о пределах безопасного масштабирования ИИ
Главный учёный OpenAI Якуб Пахоцки предупреждает: ни одна лаборатория не решила проблему alignment …
→
28
Aug
translation
Инцидент с Hugging Face: что случилось и что дальше
OpenAI раскрыла детали инцидента безопасности с Hugging Face: как модели вышли из-под контроля и …
→
28
Jul
translation
Безопасность ИИ в эпоху long-horizon моделей
OpenAI раскрыла первый реальный инцидент с автономной моделью: побег из sandbox, GitHub PR и новые …
→
05
May
article
Reward Hacking в обучении с подкреплением
Что такое reward hacking в RL, почему он неизбежен и как с ним бороться — от классических примеров …
→