AI Security Researcher & Engineer, MLSecOps (AI Security Startup)

SpaceAI - инфраструктурный слой и proxy для защиты, контроля и безопасного внедрения LLM-моделей и AI-агентов в корпоративную среду.

Через SpaceAI проходят запросы к моделям, tool calls и действия агентов. Платформа управляет доступом, применяет политики безопасности, оценивает риски, запрашивает подтверждение критических операций и формирует полный аудиторский след.

Ищем AI Security Researcher, который будет исследовать угрозы для LLM и агентных систем, проектировать механизмы защиты и превращать их в работающие компоненты продукта.

Это позиция на пересечении AI Security, platform engineering и applied research.

Чем предстоит заниматься

• Исследовать уязвимости LLM-приложений, AI-агентов, RAG-систем, MCP-серверов и межагентных взаимодействий.

• Разрабатывать сценарии атак: prompt injection, data exfiltration, tool misuse, privilege escalation, agent hijacking и supply-chain attacks.

• Проектировать и разрабатывать компоненты платформы управления и защиты AI-агентов.

• Создавать механизмы контроля запросов, tool calls и действий до их выполнения.

• Реализовывать policy enforcement: RBAC, ABAC, capabilities и контекстные правила доступа.

• Разрабатывать Risk Analyzer с решениями allow, verify, approve и block.

• Реализовывать Human-in-the-Loop для подтверждения критических операций.

• Разрабатывать guardrails, DLP, PII masking, input/output-фильтры и обнаружение секретов.

• Проектировать sandboxing, безопасное выполнение действий и kill-switch.

• Развивать аудит, трассировку, observability и инструменты расследования.

• Создавать коннекторы к API, базам данных, корпоративным системам и агентным протоколам.

• Разрабатывать тестовые стенды, attack suites и AI Security-бенчмарки.

• Проводить red teaming платформы и подключаемых AI-систем.

• Участвовать в формировании архитектуры и технического roadmap SpaceAI.

Примеры задач

• Разработать сервис, который перехватывает tool call агента и проверяет его по политикам безопасности.

• Создать Risk Analyzer для оценки потенциального ущерба до выполнения действия.

• Реализовать подтверждение человеком удаления данных, платежа или изменения конфигурации.

• Разработать детектор prompt injection и передачи чувствительных данных во внешнюю LLM.

• Спроектировать immutable audit trail для восстановления цепочки действий агента.

• Создать sandbox для безопасного выполнения кода и инструментов.

• Реализовать централизованное управление правами и capabilities агентов.

• Разработать стенд для автоматического тестирования LLM-приложений на атаки.

• Исследовать угрозы MCP- и A2A-взаимодействий и реализовать механизмы защиты.

• Создать механизм объяснения, почему действие было разрешено, заблокировано или отправлено на согласование.

Что мы ожидаем

• Уверенное владение Python и опыт разработки backend-сервисов, API или инфраструктурных компонентов.

• Понимание архитектуры LLM-приложений и AI-агентов: RAG, embeddings, inference, tool calling и agent workflows.

• Знание основных классов атак на LLM и агентные системы.

• Понимание application security, API Security, IAM и принципов secure-by-design.

• Знание аутентификации, авторизации, RBAC, ABAC и capability-based access control.

• Опыт работы с Docker, Linux, Git, REST API и базами данных.

• Понимание архитектуры распределённых систем, отказоустойчивости, latency и observability.

• Умение проводить threat modeling и проектировать механизмы защиты.

• Способность пройти путь от исследования и гипотезы до прототипа и production-реализации.

• Умение работать с научными публикациями, документацией и open-source-кодом.

• Английский язык на уровне чтения технической документации и исследований.

Будет преимуществом

• Опыт разработки security-продуктов, API Gateway, IAM, DLP, SIEM, SOAR или observability-систем.

• Практический опыт red teaming LLM или adversarial machine learning.

• Опыт работы с MCP, A2A, LangGraph, LangChain, LlamaIndex, AutoGen или CrewAI.

• Знание Kubernetes, PostgreSQL, Redis, Kafka или NATS.

• Опыт работы с OPA, Cedar, Casbin или другими policy engines.

• Знание OpenTelemetry, Prometheus, Grafana и distributed tracing.

• Участие в CTF, bug bounty или security-исследованиях.

• Понимание OWASP Top 10 for LLM Applications, MITRE ATLAS, NIST AI RMF или ISO/IEC 42001.

• Собственные open-source-проекты, публикации или выступления в области AI Security.

Что важно для этой роли

Мы ищем не только исследователя и не только разработчика.

Нам нужен специалист, способный:

• сформулировать проблему и построить модель угроз;

• предложить архитектуру защиты;

• реализовать и протестировать прототип;

• проверить его на сценариях атак;

• довести решение до промышленного компонента платформы.

Как будет оцениваться результат

• Качество разработанных механизмов защиты.

• Количество исследованных и закрытых классов угроз.

• Скорость перехода от гипотезы к работающему прототипу.

• Точность детекторов и уровень false positive / false negative.

• Производительность и latency security-проверок.

• Полнота аудиторского следа.

• Покрытие тестами и стабильность решений в production.

• Вклад в архитектуру и развитие продукта.

Что предлагаем

• Разработку полноценной AI Security-платформы, а не отдельного фильтра поверх LLM.

• Работу над реальными enterprise-сценариями внедрения AI-агентов.

• Возможность влиять на архитектуру, продукт и технический roadmap.

• Ownership над отдельными компонентами платформы.

• Возможность создавать собственные AI Security-бенчмарки и исследования.

• Публикации и выступления на профильных мероприятиях.

• Прямую коммуникацию с основателями и короткий цикл принятия решений.

• Удалённый или гибридный формат.

• Возможность получить долю или опцион при долгосрочном сотрудничестве.

Формат работы

• Частичная или полная занятость.

• Удалённо или гибридно.

• Уровень: Middle / Senior.

Как откликнуться

Отправьте резюме, GitHub и кратко расскажите:

• какие AI-, backend- или security-продукты вы разрабатывали;

• за какую часть архитектуры отвечали;

• какие security-механизмы или исследовательские стенды создавали;

• работали ли с LLM, AI-агентами, MCP или tool calling;

• какую задачу в AI Security считаете сейчас наиболее сложной.

Будем рады увидеть open-source-проекты, статьи, исследования, CTF, bug bounty или технические выступления.

SpaceAI - создаём инфраструктуру, в которой AI-агенты могут действовать автономно, но не бесконтрольно.