Ведущий MLOps (ML/GPU Infrastructure)

Чем предстоит заниматься:

• Проектирование, развёртывание и развитие инфраструктуры платформы искусственного интеллекта (on-prem и облако): Kubernetes-кластеры, GPU-ноды, storage, сети, безопасность;
• Построение и поддержка CI/CD/CT-пайплайнов для ML-моделей и сервисов: от артефакта DS до продакшн-инференса с откатами и канареечными релизами;
• Интеграция и эксплуатация LLM/ML-сервисов для внутренних команд и рыночных внедрений: упаковка моделей в сервисы, конфигурация autoscaling, SLA, observability;
• Настройка мониторинга и алертинга по инфраструктуре и моделям (метрики ресурсов, latency, ошибки, дрейф данных), реагирование на инциденты, участие в post-mortem;
• Автоматизация ML-пайплайнов: подготовка данных, обучение, переобучение, регистрация моделей, управление версиями и окружениями;
• Поддержка внедрений у клиентов: тиражирование платформенных компонентов, адаптация инфраструктуры под контур заказчика, участие в performance-оптимизации и cost-cutting (GPU/CPU).

Здорово, если у тебя есть:

• Оконченное высшее образование (IT, техническое, математическое);

• Коммерческий опыт в роли от 5 лет;

• Глубокое понимание жизненного цикла ML-модели: от экспериментов до продакшн-инференса и мониторинга;

• Уверенный Linux, сетевые основы, безопасность, работа с контейнерами и оркестраторами;

• Опыт построения CI/CD-пайплайнов для сервисов и ML-артефактов (Docker images, модели, данные);

• Опыт с LLM/GenAI-платформами: vLLM, TGI, Hugging Face, Triton/ONNX Runtime, оптимизация инференса;

• Опыт построения feature store, model registry, ML pipelines (Kubeflow, MLflow, Airflow, Argo Workflows);

• Опыт работы в гибридной инфраструктуре: on-prem кластеры + публичные облака (T1 Cloud, VK Cloud, Yandex Cloud и др.);

• Понимание cost-optimization: FinOps для GPU/CPU, автобалансировка нагрузок;

• Опыт проектирования и развёртывания инфраструктуры платформы ИИ (кластер Kubernetes, storage, сети, security) под LLM/ML-нагрузки;

• Опыт построения воспроизводимых ML-пайплайнов: обучение, валидация, packaging модели, деплой в batch и real-time режимах;

• Опыт настройки мониторинга моделей: метрики качества, дрейф данных, latency/throughput, автоматический rollback и retraining-триггеры;

• Опыт совместной работы с DS/разработчиками и внедренцами: перевод экспериментальных ноутбуков в надёжные сервисы для внутренних и внешних клиентов.