MLOps-инженер

О роли:

Ищем MLOps инженера, который будет настраивать модели, агентов и базы данных на железе, оптимизировать их работу и готовить измеримые результаты для команды. Работа предстоит и в собственной лаборатории с тестовым сервером для PoC и сборки MVP, и на удаленных стендах вендоров.

Задачи:

• Разворачивать и обслуживать GPU серверы и инференс окружения для LLM в локальном контуре и на стендах вендоров.
• Настраивать и поддерживать пайплайны деплоя моделей и агентов, включая версионирование.
• Создавать тестовые песочницы для валидации новых моделей и фреймворков.
• Тестировать новые фреймворки и рантаймы как на локальном оборудовании, так и на удаленных стендах вендоров.
• Настраивать мониторинг качества и производительности инференса.
• Оптимизировать паттерны обращения к моделям и throughput под нагрузкой.
• Участвовать в сборке PoC и MVP.

• Опыт в MLOps или DevOps от 2 до 3 лет, в идеале от 3 до 5 лет.
• Уверенное знание Docker.
• Опыт работы с LLM, включая облачные модели.
• Опыт работы с GPU платформами, прежде всего NVIDIA.
• Опыт настройки рантаймов и бэкендов инференса: vLLM, SGLang, TensorFlow.
• Понимание метрик инференса, батчинга и квантизации: FP16, BF16, FP8, INT8.
• Опыт настройки мониторинга: Grafana, Zabbix или аналоги.
• Опыт оптимизации инфраструктуры под ML нагрузки.

Сильное преимущество:

• Опыт работы с Kubernetes. Не обязателен, но будет весомым плюсом при выборе кандидата.
• Опыт работы с реальными enterprise архитектурами.

• Оплата: условия обсуждаются индивидуально с каждым кандидатом.
• Москва, офис. Сейчас метро Кунцевская, в ближайшие месяцы переезд на метро Динамо.
• Первое время работа из офиса, затем возможен гибридный формат. Полная удаленка не предусмотрена.
• Официальное оформление по трудовому договору.