DevOps/MLOps

Ищем DevOps/MLOps инженера в проектную команду для сопровождения и развития платформы машинного обучения и AI-сервисов (LLM, агенты, чат-боты).

Чем предстоит заниматься:

• развёртыванием ML-моделей и AI-сервисов, локальных моделей (LLM, ML-модели) в различных средах;
• управлением версиями моделей и их хранением (NFS/MinIO);
• подготовкой окружений для инференса и тестирования моделей;
• развёртыванием сервисов AI-агентов, чат-ботов и ML-сервисов в Kubernetes и docker compose;
• работой с большими моделями и GPU в kubernetes и docker;
• CI/CD для ML-сервисов и инфраструктуры;
• сборкой Docker-образов, npm пакетов, артефактов;
• написание и рефакторингом пайплайнов в Azure DevOps;
• участием в разработке Dockerfile для ML-сервисов, консультациями;
• сборкой базовых образов;
• работой с docker-compose, рантаймами: containerd, Docker, podman;
• контролем отсутствия секретов в docker слоях;
• эксплуатацией и сопровождением Kubernetes-кластеров;
• разработкой и рефакторингом Helm charts;
• работой с TLS/SSL сертификатами и их ротацией, в т.ч. через nginx;
• сбором логов контейнеров;
• интеграцией логов с Elastic/Logstash,к с VictoriaMetrics/Prometheus;
• управлением секретами Kubernetes и HC Vault;
• интеграцией ML pipeline с CI/CD;
• подготовкой инфраструктуры для обучения моделей;
• диагностикой проблем запуска моделей и сервисов;
• отладкой Kubernetes workload;
• оптимизацией использования ресурсов (CPU/GPU/RAM);
• подготовкой технической документации.

Чего мы ждем от тебя:

• опыт работы DevOps/MLOps инженером;
• опыт работы с Kubernetes;
• опыт контейнеризации (Docker, docker-compose);
• опыт работы с CI/CD.