Robin — AI-инструмент для OSINT-расследований в даркнете

«Robin объединяет LLM с поисковыми системами даркнета, автоматизируя уточнение запросов, фильтрацию результатов и формирование разведывательных сводок.»

Robin — это AI-инструмент с открытым исходным кодом, разработанный для помощи следователям и исследователям в проведении OSINT-расследований в даркнете. Он сочетает автоматизированный поиск по скрытым сервисам с возможностями больших языковых моделей (LLM) для анализа и резюмирования найденных данных.

Что это и для кого

Robin — инструмент для проведения OSINT-расследований в тёмной сети. Он задействует LLM для уточнения поисковых запросов, фильтрации результатов из поисковиков даркнета и формирования итогового резюме расследования.

Целевая аудитория:

  • Специалисты по кибербезопасности — для мониторинга утечек и угроз
  • Следователи и аналитики угроз — для выявления активности в даркнете
  • Исследователи и академики — в образовательных целях
  • Команды Red Team — для оценки цифрового следа организаций
⚠ Правовой дисклеймер
Инструмент предназначен исключительно для образовательных и законных расследовательских целей. Доступ к определённому контенту даркнета может быть незаконным в зависимости от вашей юрисдикции. Всегда соблюдайте применимое законодательство.

Ключевые возможности

1. Поддержка множества LLM-моделей

Robin поддерживает OpenAI, Claude, Gemini, Ollama и любой OpenAI-совместимый API (LM Studio, llama.cpp, Groq и т.д.). Это позволяет запускать расследования как через облачные API, так и полностью локально.

2. Web UI на базе Streamlit

Robin предоставляет веб-интерфейс на основе Streamlit для интерактивных расследований. Это делает инструмент доступным не только для любителей командной строки.

3. Разговорные уточнения и пивоты

Инструмент позволяет задавать уточняющие вопросы по расследованию без повторного запуска поиска — ответы формируются на основе уже собранных данных. Кроме того, Robin предлагает готовые запросы для следующего шага расследования, которые можно запустить одним кликом.

4. Модульная архитектура

Чистое разделение между рабочими процессами поиска, парсинга и LLM. Архитектура расширяема: можно легко подключить новые поисковые системы, модели или форматы вывода.

5. Кастомные отчёты и Docker-деплой

Результаты расследования можно сохранить в файл для отчётности или дальнейшего анализа. Поддерживается опциональное развёртывание в Docker для чистой, изолированной работы.

6. AI как виртуальный аналитик

В отличие от аналогов, которые просто выгружают сырые данные, LLM-слой Robin действует как виртуальный аналитик — понимает контекст и жаргон, который пропускают инструменты на основе ключевых слов.

💡 Совет по экономии
Использование локальных моделей через Ollama позволяет проводить неограниченное количество расследований без затрат на API — это критично при высокоинтенсивном мониторинге.

Архитектура работы Robin


graph LR
    A[Запрос пользователя] --> B[LLM: уточнение запроса]
    B --> C[Поиск через Tor-сеть]
    C --> D[Парсинг .onion-сайтов]
    D --> E[LLM: фильтрация и анализ]
    E --> F[Итоговое резюме / отчёт]
    F --> G{Пивот?}
    G -- Да --> B
    G -- Нет --> H[Сохранение результатов]

Установка и быстрый старт

Требования

  • Python 3.9+
  • Tor (обязателен для поиска в даркнете)
  • API-ключ любого поддерживаемого LLM-провайдера (или Ollama локально)

Установка через Git

# Клонировать репозиторий
git clone https://github.com/apurvsinghgautam/robin.git
cd robin

# Установить Tor (Linux/WSL)
sudo apt install tor

# Настроить окружение
cp .env.example .env
nano .env  # добавить API-ключ

# Установить зависимости Python
pip install -r requirements.txt

Запуск через Docker (рекомендуется)

docker run --rm \
  -v "$(pwd)/.env:/app/.env" \
  --add-host=host.docker.internal:host-gateway \
  -p 8501:8501 \
  apurvsg/robin:latest ui --ui-port 8501 --ui-host 0.0.0.0

Пример CLI-команды

python robin.py --model gemini-2.5-flash --query "утечки данных российских компаний" --output report.txt
📝 Пример сценария использования
Aналитик безопасности хочет проверить, не утекли ли корпоративные e-mail адреса на площадки даркнета. Он запускает Robin с запросом по домену компании. Robin уточняет запрос через LLM, выполняет поиск через Tor-поисковики, парсит результаты и выдаёт структурированную сводку с найденными упоминаниями и контекстом.

Тарифы и стоимость

Robin — полностью бесплатный open-source проект (лицензия MIT). Никаких подписок и платных планов нет.

КомпонентСтоимость
Robin (сам инструмент)Бесплатно
TorБесплатно
OpenAI API (GPT-4.1, GPT-4o)По тарифам OpenAI
Anthropic API (Claude 3.5 Sonnet)По тарифам Anthropic
Google API (Gemini 2.5 Flash)По тарифам Google
Ollama (локальные модели)Бесплатно
ℹ Нулевые затраты
Если использовать Ollama с локальной моделью (например, Llama 3.1), общая стоимость инструмента составит $0. Платить придётся только за API коммерческих LLM-провайдеров, если вы их выберете.

Плюсы и минусы

✅ Плюсы❌ Минусы
Полностью бесплатный и open-sourceТребует настройки Tor и окружения
Поддержка GPT, Claude, Gemini, OllamaЗависимость от внешних API (при использовании облачных LLM)
Два режима: CLI и веб-интерфейс StreamlitВеб-UI менее зрелый, чем коммерческие решения
Docker-деплой для изоляцииКрутая кривая обучения для новичков
Разговорные уточнения без повторного поискаОграничен Tor-поисковиками (не все .onion доступны)
Локальные модели без затрат на APIСкорость зависит от скорости Tor-сети
Модульная расширяемая архитектураНет встроенной БД для хранения истории расследований
Активно поддерживается (~3K звёзд на GitHub)Не рекомендован для production без дополнительного аудита

Сравнение с альтернативами

TorBot — это инструмент OSINT для даркнета, написанный на Python с открытым исходным кодом. PryingDeep специализируется на сборе информации с сайтов даркнета/клирнета и извлечении максимального объёма данных из .onion-ресурсов.

ПараметрRobinTorBotPryingDeep
AI / LLM-анализ✅ Да (GPT, Claude, Gemini, Ollama)❌ Нет❌ Нет
ИнтерфейсCLI + Web UI (Streamlit)CLICLI
ЯзыкPythonPythonGo
Docker✅ Да✅ Да✅ Да
Разговорные уточнения✅ Да❌ Нет❌ Нет
Кастомные отчёты✅ Да✅ (JSON)✅ (экспорт)
Тип работыПоиск + анализ + резюмеКраулинг ссылокГлубокий краулинг страниц
Локальные модели✅ Ollama
ЦенаБесплатноБесплатноБесплатно
GitHub ⭐~3 000~3 500~500

Традиционные краулеры (как TorBot или PryingDeep) отлично справляются с кастомным парсингом и структурированным извлечением данных. Robin же сосредоточен на поиске по результатам и быстром сохранении доказательств.

Популярность и статус проекта

По данным репозитория, Robin насчитывает около 3 000 звёзд на GitHub и более 598 форков, активно поддерживается. Это свидетельствует о высоком интересе сообщества к проекту.

Вердикт

Robin — это редкий пример open-source инструмента, который органично объединяет возможности LLM с практическим OSINT-краулингом даркнета. Он особенно силён там, где обычные краулеры бессильны: в понимании контекста, семантической фильтрации шума и формировании готового отчёта для аналитика.

Ни один другой инструмент не предлагает одновременно полноценный веб-интерфейс и мощный CLI с идентичными возможностями плюс Docker-поддержку для корпоративного развёртывания.

Кому подойдёт:

  • Специалистам SOC и Threat Intelligence для быстрого реагирования на инциденты
  • Исследователям безопасности и пентестерам
  • Студентам и преподавателям в области кибербезопасности
  • Журналистам-расследователям (при наличии правовой базы)

Кому не подойдёт:

  • Тем, кто ожидает коммерческого уровня UX «из коробки»
  • Организациям без технической команды для настройки и поддержки
  • Сценариям, требующим мониторинга в реальном времени 24/7

Итоговый рейтинг

КритерийОценка
Функциональность9/10
Простота установки6/10
Качество AI-анализа8/10
Документация7/10
Стоимость (бесплатно!)10/10
Итого8/10