14
Oct
translation
OpenAI Safety Bug Bounty: охота за уязвимостями ИИ
OpenAI запустила Safety Bug Bounty — программу поиска уязвимостей ИИ с выплатами до $100 000. …
→
Prompt Injection
9
материалов
08
Aug
article
Люди пропустили каждую третью угрозу от AI-агентов
Исследование на 40 000 игровых сессий показало: человек-контролёр пропускает 1 из 3 опасных команд …
→
18
Jul
article
ReasonGate: объяснимая защита LLM от prompt injection
ReasonGate — открытый шлюз с объяснимым ИИ для блокировки атак prompt injection на LLM. Как …
→
17
Jul
translation
GPT-Red: как ИИ учится атаковать себя ради безопасности
GPT-Red — внутренняя система OpenAI для автоматического red teaming. Узнайте, как self-play RL …
→
29
Jun
translation
6000 попыток взломать ИИ-ассистента: что показал эксперимент
Разработчик открыл своего ИИ-ассистента для атак через email. Более 2000 человек отправили 6000 …
→
24
Jun
article
Prompt Injection как путаница ролей в LLM
Как атаки Prompt Injection эксплуатируют путаницу ролей в LLM: механика, CoT Forgery, реальные …
→
30
May
tool-review
RAMPART: тестирование безопасности AI-агентов от Microsoft
Обзор RAMPART — pytest-нативного фреймворка Microsoft для red-team тестирования безопасности …
→
28
May
translation
Microsoft Copilot Cowork: утечка файлов через агентов
Исследователи обнаружили, что Microsoft Copilot Cowork уязвим к атакам через indirect prompt …
→
26
May
article
Adversarial Attacks на LLM: как взламывают ИИ
Разбираем все типы атак на большие языковые модели: jailbreak, prompt injection, backdoor и методы …
→