{"id":2998822,"url":"https://alion.io/job/t8-devops-mlops-inzhener-llm-infrastruktura","title":"DevOps / MLOps-инженер (LLM-инфраструктура)","company":{"id":715331,"name":"T8","domain":"t8.ru","url":"https://alion.io/company/t8","size_band":"1-10","is_staffing_agency":false,"employer_type":"direct","is_intermediary":false,"listed_via":null,"ats_vendor":"HeadHunter","truth_index":{"grade":"B","score":84,"open_postings":5,"ghost_share":0.2,"stale_share":0,"repost_share":0.6,"time_to_fill_p50_days":17,"computed_at":"2026-11-03T05:54:40Z"}},"role":"AI/ML","role_family":"AI/ML","seniority":null,"employment_type":null,"work_mode":"hybrid","remote_scope":null,"remote_scope_basis":null,"remote_working_hours":null,"hiring_geo_confidence":"structured","locations":["Moscow, Russia"],"countries":["RU"],"hiring_countries":[],"hiring_countries_total":0,"salary":null,"salary_estimate":null,"experience_years_min":null,"visa_sponsorship":false,"relocation_package":false,"has_equity":false,"technologies":[{"name":"Ansible","optional":false},{"name":"ArgoCD","optional":false},{"name":"AWQ","optional":false},{"name":"Bash","optional":false},{"name":"CI/CD","optional":false},{"name":"CUDA","optional":false},{"name":"Docker","optional":false},{"name":"GitLab CI","optional":false},{"name":"GitOps","optional":false},{"name":"GPTQ","optional":false},{"name":"Grafana","optional":false},{"name":"Kubernetes","optional":false},{"name":"Linux","optional":false},{"name":"LLM","optional":false},{"name":"Prometheus","optional":false},{"name":"Python","optional":false},{"name":"TCP/IP","optional":false},{"name":"Ubuntu","optional":false},{"name":"vLLM","optional":false},{"name":"KServe","optional":true},{"name":"KV Cache","optional":true},{"name":"MLFlow","optional":true},{"name":"Ray","optional":true},{"name":"Ray Serve","optional":true},{"name":"Triton Inference Server","optional":true}],"status":"live","first_seen_at":"2026-10-21T11:31:58Z","employer_posted_date":"2026-10-21","last_verified_at":"2026-11-03T01:18:09Z","board_verified":true,"closed_at":null,"days_open":12,"trust":{"level":"ok","repost_count":null,"flags":[],"days_open":12},"description":"Сейчас мы активно развиваем внутреннюю экосистему ИИ-сервисов (умные чат-боты, транскрибация, инструменты для разработчиков и инженеров). Наша LLM-инфраструктура работает on-premise: несколько GPU-серверов с vLLM, нагрузка растёт.\n Нам нужен автономный DevOps/MLOps-инженер, который возьмёт на себя всю инфраструктуру ИИ-сервисов: от CI/CD и IaC до оптимизации производительности локальных языковых моделей и освободит ИИ-команду для профильных задач.\n Ваши задачи:\n 1. Инфраструктура и доставки:\n - Проектирование, развёртывание и поддержка CI/CD-конвейеров в GitLab CI для AI-сервисов.\n - Автоматизация инфраструктуры с использованием Ansible; внедрение GitOps-подходов (Argo CD или Flux) при переходе на Kubernetes.\n - Управление контейнерными средами: Docker, Kubernetes (кластеризация, масштабирование, обновления).\n - Настройка мониторинга (Grafana + Prometheus), алертинга и лог-агрегации.\n - Разработка скриптов и утилит на Python / Bash для автоматизации рутинных задач.\n 2. LLM-инфраструктура (ключевая часть роли):\n - Развёртывание, поддержка и оптимизация инференса LLM на vLLM: управление GPU-ресурсами, тюнинг производительности (--gpu-memory-utilization, --tensor-parallel-size, --max-num-seqs, квантование AWQ/GPTQ/FP8), prefix caching, масштабирование под нагрузкой.\n - Нагрузочное тестирование и бенчмаркинг моделей (TTFT, throughput, inter-token latency), балансировка трафика между инстансами инференса.\n - Управление жизненным циклом моделей: версионирование, канареечные релизы, rollouts, откат обновлений.\n - Обеспечение надёжного и безопасного развёртывания моделей в продакшн совместно с разработчиками AI-моделей и дата-инженерами.\n - Участие в планировании и реализации практик MLOps (реестр моделей, воспроизводимость развёртывания).\n - Обучение коллег культуре DevOps, создание документации (runbook'и, эксплуатационные гайды).\n Мы ждём от вас:\n - vLLM: опыт эксплуатации в продакшн - тюнинг производительности (--gpu-memory-utilization, --tensor-parallel-size, --max-num-seqs, квантование), работа с GPU-ресурсами, бенчмаркинг (TTFT, throughput).\n - GPU-администрирование: опыт работы с NVIDIA GPU-серверами - драйверы, CUDA, nvidia-container-toolkit.\n - Контейнеризация: уверенное владение Docker; опыт развёртывания Kubernetes-кластера с нуля (deployment, service, ingress, RBAC) - планируем внедрять K8s для внутренних ИИ-сервисов.\n - CI/CD: построение и поддержка конвейеров в GitLab CI (pipelines, runners, переменные).\n - Infrastructure as Code: Ansible (playbooks, роли, идемпотентные конфигурации).\n - Мониторинг и алертинг: настройка Grafana + Prometheus (сбор метрик, построение дашбордов, правила оповещений); опыт мониторинга GPU-нагрузок (DCGM-exporter и т.п.).\n - Скриптинг: уверенное написание утилит и автоматизации на Python и Bash (GPU-мониторинг, нагрузочные скрипты, обвязка CI/CD).\n - Операционные системы: уверенная работа в Linux (Ubuntu), базовые навыки администрирования.\n - Сетевые основы: понимание TCP/IP, базовых принципов firewall.\n - Безопасность CI/CD: управление секретами (GitLab CI secrets), сканирование образов, best practices по безопасности в конвейерах.\n Будет плюсом:\n - GitOps: практический опыт работы с Argo CD или Flux, настройка автоматической синхронизации инфраструктуры.\n - Опыт эксплуатации Triton Inference Server в продакшн.\n - Понимание факторов, влияющих на latency/throughput LLM-инференса (PagedAttention, continuous batching, KV-cache, квантование и его trade-offs).\n - Управление секретами через Vault.\n - Опыт работы с on-premise / bare-metal GPU-инфраструктурой (без управляемых облаков).\n - Знакомство с MLOps-инструментами: MLflow, DVC, KServe/Ray Serve.\n - Опыт GPU Operator / MIG в Kubernetes.\n Мы предлагаем:\n Создание инфраструктурного направление с нуля. Ваши архитектурные решения напрямую определяют скорость и качество вывода в продакшн новых сервисов.\n Возможность внедрять лучшие практики (GitOps, Kubernetes, MLOps) без необходимости поддерживать устаревшие системы и legacy-код.\n Официальное трудоустройство по ТК РФ с первого рабочего дня (у компании есть IT-аккредитация).\n Прозрачная система оплаты: фиксированный оклад + квартальные бонусы по результатам + годовая премия.\n Стандартный график 5/2: рабочий день с 10:00 до 18:30, но мы гибкие и начало можно сдвинуть по договорённости.\n Гибридный формат работы после испытательного срока (2-3 дня работы удалённо).\n Удобный офис в шаговой доступности от м.Преображенская площадь.\n Расширенный ДМС со стоматологией: полис оформляется на сотрудника и его детей после 3 месяцев работы.\n Развитие и обучение: у каждого новичка есть персональный куратор, который помогает адаптироваться и успешно пройти испытательный срок. Также у нас есть внутренняя библиотека, оплата участия в профильных конференциях, внутренние и внешние обучающие мероприятия.\n Умеем отдыхать: проводим корпоративы 2 раза в год, ходим на экскурсии, устаиваем мастер-классы и другие активности.\n Любим спорт: футбол, волейбол, настольный теннис, шахматный клуб, участвуем в «Гонке Героев» и велозаездах.\n Внутренняя мотивация: у нас есть своя корпоративная валюта, которую можно получать за активность и обменивать на крутой мерч.\n Этапы отбора:\n HR-скрининг (30-40 мин): познакомимся, обсудим ваш опыт и наши ожидания.\n Техническое интервью в онлайн-формате (1 час): тестовые задачи в формате диалога.\n Техническое интервью в офисе (1 час): решим финальный тест, покажем рабочее место, пообщаемся с командой вживую.\n Оффер .","description_format":"text","description_chars":5449,"description_truncated":false,"requirements":{"experience_years_min":null,"management_years_min":null,"team_size_min":null,"manages_managers":false,"education":null,"security_clearance":false,"languages":[{"language":"Russian","level":"Advanced (C1)","optional":false}]},"benefits":[],"hiring_locations":[{"name":"Russia","iso":"RU","kind":"country"}],"hiring_excludes":[],"relocation_offered":false,"industries":["Network Equipment","Optical Communications"],"lifecycle":[{"event":"open","at":"2026-10-21T11:34:42Z"}],"visa":[],"liveness":{"score":61,"band":"ok","label":"Likely open","p_open":1,"p_active":0.808,"p_room":0.75,"age_days":12,"expected_fill_days":17,"reasons":["conf:4","velocity","win:late"],"computed_at":"2026-11-03T05:54:40Z"},"pay":null,"html_url":"https://alion.io/job/t8-devops-mlops-inzhener-llm-infrastruktura","json_url":"https://alion.io/job/t8-devops-mlops-inzhener-llm-infrastruktura.json","meta":{"generated_at":"2026-11-03T10:30:11Z","cache_seconds":300,"methodology":"https://alion.io/methodology","terms":"https://alion.io/terms","contact":"https://alion.io/contact","api":"https://alion.io/developers","about":"Alion is a live layer of people, companies and AI agents: who they are, whether they are real and active right now, what they do and how to work with them, readable by people and by agents and paid per call.","catalog":"https://alion.io/catalog.json","usage":{"tier":"crawler_verified","counted_by":"address","units_charged":1,"used_today":14595,"day_limit":null,"remaining_today":null,"minute_limit":300,"resets_at":"2026-11-04T00:00:00Z"}},"offers":[{"id":"company.slices","title":"One company in depth, by slice","status":"live","price":{"credits":0.02,"usd":0.002,"plus_per_slice":{"credits":0.05,"usd":0.005}},"unit":"per company, plus each slice with data","note":"the employer in depth","call":{"mcp_tool":"get_company","arguments":{"id":715331},"rest":"https://alion.io/mcp/rest/get_company?id=715331"},"human":"https://alion.io/catalog?offer=company.slices&for=job%2Ft8-devops-mlops-inzhener-llm-infrastruktura"},{"id":"market.stats","title":"A market slice: pay, demand and time to fill","status":"live","price":{"credits":1,"usd":0.1},"unit":"per slice","note":"pay, demand and time to fill for this role and place","call":{"mcp_tool":"market_stats"},"human":"https://alion.io/catalog?offer=market.stats&for=job%2Ft8-devops-mlops-inzhener-llm-infrastruktura"},{"id":"job.search","title":"Open jobs by role, technology, place, pay and visa","status":"live","price":{"credits":0.02,"usd":0.002},"unit":"per posting in a list","note":"similar open postings","call":{"mcp_tool":"search_jobs"},"human":"https://alion.io/catalog?offer=job.search&for=job%2Ft8-devops-mlops-inzhener-llm-infrastruktura"},{"id":"company.verify","title":"Is this company real and active right now","status":"pilot","price":null,"unit":"per company","request":{"url":"https://alion.io/catalog/request","method":"POST","body":"{\"offer\": \"company.verify\", \"for\": \"job/t8-devops-mlops-inzhener-llm-infrastruktura\", \"note\": \"what you need it for\"}"},"human":"https://alion.io/catalog?offer=company.verify&for=job%2Ft8-devops-mlops-inzhener-llm-infrastruktura"}],"agent":{"mcp":"https://alion.io/mcp/jobs","mcp_open":"https://alion.io/mcp/open","next":[{"tool":"get_job","arguments":{"id":2998822}},{"tool":"search_jobs","arguments":{"company":"t8.ru","detail":"compact"}},{"tool":"match_people","arguments":{"job_id":2998822},"note":"people open to offers who fit this vacancy"}],"note":"The same data through MCP tools: https://alion.io/mcp/open needs no sign-in (compact searches, postings, people); https://alion.io/mcp with an Alion account has everything. Docs: https://alion.io/developers"}}