29
Jun
translation
6000 попыток взломать ИИ-ассистента: что показал эксперимент
Разработчик открыл своего ИИ-ассистента для атак через email. Более 2000 человек отправили 6000 …
→
Prompt Injection
5
материалов
24
Jun
article
Prompt Injection как путаница ролей в LLM
Как атаки Prompt Injection эксплуатируют путаницу ролей в LLM: механика, CoT Forgery, реальные …
→
30
May
tool-review
RAMPART: тестирование безопасности AI-агентов от Microsoft
Обзор RAMPART — pytest-нативного фреймворка Microsoft для red-team тестирования безопасности …
→
28
May
translation
Microsoft Copilot Cowork: утечка файлов через агентов
Исследователи обнаружили, что Microsoft Copilot Cowork уязвим к атакам через indirect prompt …
→
26
May
article
Adversarial Attacks на LLM: как взламывают ИИ
Разбираем все типы атак на большие языковые модели: jailbreak, prompt injection, backdoor и методы …
→