AI application security engineer

Мы - команда безопасности ИИ в Центре киберзащиты Контура. Ищем специалиста по кибербезопасности, который поможет внедрять и сопровождать решения на базе AI - от продуктовых сервисов и RAG-систем до внутренних AI-инструментов разработки.

В Контуре активно развивается использование AI-ассистентов и агентов. Наша задача - сделать так, чтобы эти инструменты были безопасными, а разработчик получал защищенный результат, соответствующий ИБ-политикам, без необходимости погружаться во все тонкости ИБ.

Задачи

• Проводить анализ защищенности (преимущественно Whitebox) LLM-приложений, AI-агентов, RAG, векторных БД, Low-Code/No-Code-систем (Dify, n8n) и интеграций с внешними API / облачными моделями.

• Выявлять специфичные для AI векторы атак: prompt injection, indirect prompt injection, jailbreak, data poisoning, excessive agency, unsafe tool calls и over-privileged agents.

• Настраивать и валидировать защитные механизмы: фильтры PII / конфиденциальных данных, ограничения контекста, rate limiting, контроль вызова tools и ручные подтверждения для критичных операций.

• Укреплять внутренний AI/ML-тулинг совместно с платформенными командами. Строить систему правил, скиллов и хуков, чтобы встраивать политики ИБ непосредственно в среду разработки: skills, rules, hooks, MCP-серверы.

• Проверять безопасность локального запуска LLM и агентов в Kubernetes и Linux-песочницах: изоляция сессий, памяти, контейнеров, RBAC, NetworkPolicy, Secrets Management.

• Формировать требования к аудиту и трассировке AI-систем: trace ID, логирование prompt/response, фиксация вызовов моделей и действий агентов.

• Консультировать команды, помогать внедрять безопасный код и выстраивать понятные процессы.

Мы ожидаем

• Опыт в сфере ИБ от двух лет в одном или нескольких направлениях: AppSec, DevSecOps, Cloud/K8s Security, Product Security или ML Security.

• Уверенное владение одним из языков программирования: Python, Go, C#, TS, Rust. Умение читать чужой код, искать уязвимости и писать PoC.

• Знание AI/LLM-стека: понимание устройства языковых моделей, RAG, векторных БД (Milvus, Qdrant, pgvector и др.), AI-агентов, agent memory, tool calling, а также стандарта взаимодействия MCP.

• Знание AI-угроз: понимание рисков OWASP for LLM, MITRE ATLAS (prompt injection, раскрытие system prompt, утечки данных, необдуманное выполнение кода агентами).

• Знание основ Linux и базовое понимание безопасности Kubernetes: RBAC, ServiceAccount, NetworkPolicy, Secrets, изоляция контейнеров.

• Знание классических веб-уязвимостей, механизмов аутентификации и авторизации OAuth2, OIDC, JWT, RBAC и безопасной разработки - Secure SDLC, Threat Modeling.

• Умение аргументированно объяснять риски, находить компромиссы с разработкой.

Мы предлагаем

• Гибридный формат работы в Екатеринбурге. Офис на ул. Малопрудной, 5. Предоставим все необходимое: технику, рабочее место, библиотеку с профессиональной литературой, место для отдыха и кухонную зону с фруктами и снеками.

• Уровень дохода, который зависит от ваших технических знаний и навыков. Регулярно пересматриваем зарплаты с учетом профессионального роста. Финансовые бонусы тоже есть.

• Сильное инженерное комьюнити. Регулярно проводим внутренние технические конференции, обмениваемся опытом между командами. Вы всегда найдете с кем посоветоваться.

• Возможность сменить продукт, команду или предметную область внутри компании. Поддерживаем развитие в любом направлении.

• Общение на «ты» и максимум горизонтальных связей в коллективе, чтобы быстрее договариваться и решать рабочие задачи.

• Возможность делиться экспертизой. Помогаем выступать на конференциях, участвовать в подкастах или видео, писать статьи.

• Поддержку профессионального развития. Организуем внутреннее и внешнее обучение.