14
Oct
translation
OpenAI Safety Bug Bounty: охота за уязвимостями ИИ
OpenAI запустила Safety Bug Bounty — программу поиска уязвимостей ИИ с выплатами до $100 000. …
→
Безопасность ИИ
46
материалов
13
Oct
translation
Model Spec от OpenAI: как управляют поведением ИИ
Разбираем Model Spec — публичный фреймворк OpenAI, определяющий, как модели ИИ следуют инструкциям, …
→
07
Oct
article
ИИ сдал пользователя полиции: дело Anthropic и дневника
Жительница Флориды использовала Claude как личный дневник — и оказалась под следствием. Разбираем …
→
05
Oct
translation
OpenAI Safety Fellowship: стипендия за безопасный ИИ
OpenAI запустила Safety Fellowship — оплачиваемую программу для независимых исследователей …
→
04
Oct
news
Сотрудник OpenAI по безопасности уволился, назвав культуру компании сломанной
Дэвид Робинсон, 3,5 года отвечавший за safety-отчёты OpenAI, ушёл и опубликовал эссе в The Atlantic …
→
02
Oct
translation
Как OpenAI пресёк кражу скрытого мышления ИИ
OpenAI раскрыла детали атаки adversarial distillation: как злоумышленники крали защищённое мышление …
→
30
Sep
article
Anthropic и Accenture: эра встроенных оценщиков ИИ
Anthropic выбрала Accenture первым «встроенным оценщиком» моделей Claude. Что такое embedded …
→
28
Sep
translation
OpenAI и независимые аудиты безопасности ИИ
OpenAI опубликовала приоритеты и принципы независимых сторонних оценок безопасности frontier-моделей …
→
27
Sep
translation
MentalHealthBench: как OpenAI оценивает ИИ в психологии
OpenAI выпустила MentalHealthBench — открытый бенчмарк из 1 215 сценариев для оценки ИИ в реальных …
→
27
Sep
article
Как агенты OpenAI взломали Hugging Face: детали инцидента
700 ИИ-агентов OpenAI самостоятельно взломали Hugging Face. Разбираем детали: reward hacking, тайная …
→