Middle+ Machine Learning Engineer (ML Infrastructure & Highload)

Мы строим высоконагруженные ML-системы для обеспечения банковской безопасности. Наш фокус - антифрод, управление рисками, обнаружение аномалий и оптимизация бизнес-процессов и тд.

Ищем MLE грейда Middle+ с сильной инженерной базой. Ключевая задача - внедрение и адаптация высокопроизводительных runtime-шаблонов для инференса моделей, автоматизация процессов деплоя и оптимизация Time-to-Market при выводе ML/DL и LLM в промышленную эксплуатацию.

Обязанности

• развертывание и поставка моделей: Упаковка, деплой и поддержка runtime-шаблонов для быстрого вывода моделей в прод на основе готовых архитектурных решений

Оптимизация инференса (ML Serving):

• обеспечение требуемого уровня latency и пропускной способности для классического ML (LightGBM, CatBoost и тд) и нейросетей
• конфигурирование и поддержка инференс-серверов (Triton Inference Server, vLLM и тд)

Интеграция и оптимизация LLM:

• вывод в продакшен LLM-агентов и RAG-систем с использованием готовых фреймворков
• настройка производительных движков (vLLM, TGI) с применением базовых техник оптимизации (квантование, continuous batching)
• реализация механизмов кэширования и фильтрации запросов (Guardrails)

Автоматизация пайплайнов:

• сборка end-to-end пайплайнов доставки данных и моделей (от логов до Real-time API)
• интеграция с очередями сообщений (Kafka) для обработки данных в реальном времени
• написание и поддержка DAG-ов переобучения моделей в Airflow

Мониторинг и логирование:

• настройка базового мониторинга метрик данных и моделей (Data/Model Drift)
• интеграция трекинга экспериментов и логирования цепочек LLM (MLflow, Langfuse)
• ведение реестра моделей в MLflow Model Registry.

Требования

• инженерный опыт: От 3-х лет в роли MLE / Backend-разработчика (Python) с опытом коммерческого вывода моделей в прод и пониманием специфики Highload-систем
• уверенный Python: Чистый, типизированный код, знание асинхронного программирования (Asyncio) и базовых паттернов проектирования
• работа с данными и очередями: Хорошее знание SQL (сложные запросы, оконные функции) и практический опыт интеграции приложений с Kafka

MLOps и Инфраструктура:

• уверенное владение Docker, базовый опыт работы со средой Kubernetes (запуск подов, просмотр логов, понимание манифестов)
• опыт написания пайплайнов в Airflow и интеграции моделей с MLflow

Data Science бэкграунд:

• понимание математики классического ML и архитектур нейросетей
• базовые навыки профилирования кода и оптимизации использования памяти
• опыт работы с табличными данными и современным стеком NLP/LLM

будет плюсом:

• понимание принципов работы корпоративных Feature Store (например, Feast)
• опыт работы с векторными базами данных (Qdrant, Milvus, PGVector)
• понимание базовых принципов работы CUDA и компиляции моделей (формат TensorRT и тд).

Условия

• комфортный современный офис рядом с м. Кутузовская
• офисный формат работы
• ежегодный пересмотр зарплаты, годовая премия
• корпоративный спортзал и зоны отдыха
• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
• программа адаптации и помощь руководителя на старте (для Junior позиций)
• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
• гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
• подписка Прайм с возможностью совместного использования на трёх близких
• вознаграждение за рекомендацию друзей в команду Сбера.