ML-инженер

Росгосстрах сейчас активно развивает внутреннюю платформу - экосистему AI-сервисов для автоматизации ключевых процессов компании. Для этого формируем новую команду, которая будет фокусироваться на улучшении ключевых метрик моделей, минимизацию временных затрат на их разработку и выведению в промышленную эксплуатацию.

Ключевой стек:

Оркестрация и деплой: Kubernetes, Docker

ML-инфраструктура: Airflow, MLflow, Jfrog Artifactory

Бэкенд и API: FastAPI, Pydantic, SQLAlchemy, asyncpg

Базы данных: PostgreSQL, Redis, ArangoDB, OpenSearch

Языки и инструменты: Python, Bash, Git

CI/CD и VCS: Bitbucket, Bamboo

Что предстоит:

• Работа с уже существующими ML-моделями: встраивание в бизнес-процессы, масштабирование и вывод в продакшен;
• Настройка и поддержка пайплайнов и сервисов для batch- и online-инференса;
• Разработка и отладка DAG-ов в Airflow;
• Контейнеризация сервисов и эксплуатация моделей в Kubernetes;
• Разработка и поддержка API на FastAPI для интеграции моделей;
• Обеспечение стабильной работы ML-сервисов в продакшене;
• Версионирование моделей и управление артефактами;
• Оптимизация инференса и контроль использования ресурсов;
• Участие в развитии инфраструктуры полного жизненного цикла ML-моделей.

• Опыт работы в области MLOps/ML-engineer от 3 лет;
• Понимание ML-алгоритмов и жизненного цикла модели:
  • от постановки задачи, экспериментов и версионирования до деплоя и мониторинга в продакшене;
  • знаете, как работают бустинги;
  • чем трансформеры (LLM) отличаются от классических сетей;
  • знаете, что такое эмбеддинги и для чего они применяются.
• Python и FastAPI:
  • уверенное владение асинхронным/многопоточным программированием (asyncio, threading, multiprocessing);
  • ООП с принципами SOLID;
  • проектирование поддерживаемых, документированных и высоконагруженных API;
  • Работа с SQLAlchemy, асинхронными драйверами базы данных.
• Airflow: разработка и отладка DAG-ов для batch-инференса моделей;
• Контейнеризация и оркестрация: работа с Docker и Kubernetes - опыт эксплуатации production-кластеров, настройка лимитов;
• Работа с базами данных: SQL, NoSQL - владение реляционными БД для хранения структурированных данных.

Является преимуществом:

• KServe / Seldon / TorchServe - опыт развертывания моделей на inference-платформах.
• Triton Inference Server - оптимизация инференса, динамическое батчирование, работа с разными бекендами (TensorRT, ONNX).
• опыт инференса больших языковых моделей (vLLM, llama), оптимизация GPU-памяти, continuous batching.
• Агенты: опыт проектирования агентных систем, работа с LangChain, LlamaIndex, LangGraph
• Real-time системы: Kafka, RabbitMQ, streaming-инференс, Faust.

Мы предлагаем:

• Профессиональное развитие в команде экспертов, нетривиальные задачи, новый интересный опыт;
• Возможность работать в составе крупной компании, лидере страхового рынка;
• Полное соблюдение норм Трудового Кодекса РФ;
• Полностью "белая" конкурентная заработная плата, премии;
• График работы 5/2 (удаленный формат работы) или гибридный график с офисом ст .м. Киевская;
• Корпоративные скидки на страховые продукты (авто страхование, ВЗР и т.д.);
• Корпоративные скидки на фитнес, магазины-партнёры, книги и др.;
• Подключение к ДМС после успешного прохождения испытательного срока;
• Электронная библиотека с более чем 3000 книг на самые актуальные темы.