Senior ML Engineer / ML Ops

Мы в поиске ML разработчика / инженера, который будет развивать направление поставки ML-решений в production в команде:Настроит мониторинг и сделает оптимизацию уже существующих в production ML-решений

• Реализует масштабирование и вывод в production новые ML-решения (планируем 5-10 до конца 2026 года)
• Будет взаимодействовать с командами разработки, ML для уточнения требований и постановки задач; предлагать архитектурные решения

Ключевые задачи:

• Разработка и поддержка API на FastAPI / другом фреймворке для интеграции ML-решений (классических моделей, агентов и тд);
• "Упаковка" кода в Docker-образ с минимальным размером и безопасными зависимостями, писать Helm-чарт для развертывания этого образа;
• Поиск способов обновления библиотеки или применение патча, пересборка образа и обновление деплоя при блокировке образа SCA-сканером;
• Обеспечение стабильной работы ML-решений в production, включая развертывание и работы с локальными LLM, ASR и in-house решения;
• Настраивать и оптимизировать модели на GPU и CPU;
• Версионирование моделей и управление артефактами;
• Развитие вместе с командой эксплуатации и архитекторами инфраструктуры полного жизненного цикла ML-решений: тестировать новые решения, улучшать текущие.

Требования:

• Опыт работы в области ML Engineer / ML Ops от 4 лет
• Опыт практического внедрения и поддержки ML-решений в production
• Практические знания инструментов и практик ML Ops:
  • Уверенный Docker, Kubernetes; умение писать Dockerfile и values.yaml; CI/CD-пайплайны; мониторинг ресурсов
  • Глубокое понимание работы зависимостей в Python для устранения проблем с деплоем
  • Опыт работы с SCA-сканерами и подготовкой ML-решений для проверки безопасности и запуска в кластере
  • Разворачивание и поддержка решения полного жизненного цикла ML-решений: анализ логов, масштабирование, сокращение SLA, оптимизации ресурсов
• Понимание ML-алгоритмов и жизненного цикла модели:
  • от постановки задачи, экспериментов и версионирования до деплоя и мониторинга ML метрик в production
  • знание современных NLP-архитектур (трансформеры, механизмы внимания) и их отличия от классических сетей
  • знание агентных систем (работа с LangChain, LlamaIndex, LangGraph, Tool-Calling, RAG)
• Backend production фреймворки:
  • проектирование поддерживаемых, документированных и высоконагруженных API
  • Понимание микросервисов, принципов SOLID, грамотный дизайн REST/gRPC API для инференса
  • SQL (PostgreSQL/MySQL) / noSql (MongoDB): работа с данными, оптимизация запросов, версионирование данных (DVC)
• Уметь находить общий язык с техническими командами: доносить и аргументировать свою позицию, участвовать в релизах, оперативно и проактивно вносить изменения для достижения результата
• Уметь внятно презентовать / рассказать о проделанной работе, своих решениях и дальнейших шагах

  Является преимуществом:

• KServe / TorchServe - опыт развертывания моделей на inference-платформах.
• Triton Inference Server - оптимизация инференса, динамическое батчирование, работа с разными бекендами (TensorRT, ONNX).
• Опыт инференса больших языковых моделей (vLLM, LLM) и других ML-моделей, оптимизация GPU-памяти, continuous batching.
• Real-time системы: Kafka, streaming-инференс
• Опыт работы с поисковыми системами (OpenSearch, Elasticsearch) и векторными базами данных
• Опыт дообучения LLM (fine-tuning) и построения RAG-пайплайнов
• Понимание принципов и практический опыт Data Ops / LLM Ops / Agent Ops

• Годовую премию по результатам работы;
• Ежегодный индивидуальный пересмотр заработной платы;
• Дополнительное медицинское страхование и возможность страхования родственников;
• Полис путешественника;
• Ипотечное кредитование на льготных условиях;
• Бесплатную подписку СберПрайм+, скидки, бонусы и акции экосистемы;
• Обучение в Виртуальной школе Сбербанка;
• Обучающие материалы для родителей, подарки и мероприятия для детей сотрудников экосистемы;
• Комфортную рабочую среду;
• Гибкое начало рабочего дня.