{"id":162734,"url":"https://alion.io/job/cloud-ru-llmops-devops-2","title":"LlmOps-DevOps","company":{"id":946,"name":"Cloud.ru","domain":"cloud.ru","url":"https://alion.io/company/cloud-ru","size_band":"1001-5000","is_staffing_agency":false,"employer_type":"direct","is_intermediary":false,"listed_via":null,"ats_vendor":"HeadHunter","truth_index":{"grade":"C","score":67,"open_postings":12,"ghost_share":0.333,"stale_share":0.167,"repost_share":0.583,"time_to_fill_p50_days":30,"computed_at":"2026-10-16T05:45:00Z"}},"role":"DevOps","role_family":"DevOps","seniority":null,"employment_type":"full_time","work_mode":"hybrid","remote_scope":null,"remote_scope_basis":null,"remote_working_hours":null,"hiring_geo_confidence":"structured","locations":["Moscow, Russia"],"countries":["RU"],"hiring_countries":[],"hiring_countries_total":0,"salary":null,"salary_estimate":{"min_usd":17500,"max_usd":40000,"period":"year","method":"role_country_seniority_unknown","sample_n":993},"experience_years_min":null,"visa_sponsorship":false,"relocation_package":false,"has_equity":false,"technologies":[{"name":"CI/CD","optional":false},{"name":"CUDA","optional":false},{"name":"CUDA Toolkit","optional":false},{"name":"Docker","optional":false},{"name":"Git","optional":false},{"name":"Hugging Face","optional":false},{"name":"Kubernetes","optional":false},{"name":"KV Cache","optional":false},{"name":"Linux","optional":false},{"name":"LLM","optional":false},{"name":"Python","optional":false},{"name":"TensorRT","optional":false},{"name":"TensorRT-LLM","optional":false},{"name":"TGI","optional":false},{"name":"Transformers","optional":false},{"name":"Triton Inference Server","optional":false},{"name":"vLLM","optional":false},{"name":"KServe","optional":true},{"name":"Mixture of Experts","optional":true},{"name":"NCCL","optional":true},{"name":"ONNX","optional":true},{"name":"PyTorch","optional":true},{"name":"Ray","optional":true},{"name":"Ray Serve","optional":true},{"name":"Seldon Core","optional":true},{"name":"Speculative Decoding","optional":true}],"status":"live","first_seen_at":"2026-09-22T09:02:27Z","employer_posted_date":"2026-09-22","last_verified_at":"2026-10-17T03:14:51Z","board_verified":true,"closed_at":null,"days_open":24,"trust":{"level":"ok","repost_count":2,"flags":["repost"],"days_open":23},"description":"Обязанности:\n Готовить LLM и другие генеративные модели к промышленному запуску;\n\n Выбирать inference-движок с учетом архитектуры модели, оборудования и требований продукта;\n\n Создавать воспроизводимые контейнерные образы и конфигурации model serving;\n\n Настраивать tensor parallelism, pipeline parallelism, batching, KV cache, длину контекста и управление памятью;\n\n Подбирать методы квантизации и оптимизации с контролем влияния на качество модели;\n\n Определять оптимальное количество и тип GPU для целевых latency, throughput и нагрузки;\n\n Проводить профилирование, функциональные и нагрузочные тесты моделей;\n\n Находить узкие места на уровне модели, inference-движка, CUDA, GPU, сети и хранилища;\n\n Автоматизировать развертывание, обновление, откат и масштабирование моделей в Kubernetes;\n\n Настраивать метрики, логи и трассировку model-serving-сервисов;\n\n Формировать эталонные конфигурации и таблицы производительности поддерживаемых моделей;\n\n Контролировать потребление GPU, утилизацию памяти и стоимость inference;\n\n Участвовать в настройке маршрутизации, балансировки и отказоустойчивости сервисов моделей;\n\n Адаптировать конфигурации моделей для облачной и on-premise-инфраструктуры;\n\n Оценивать новые модели, inference-фреймворки, методы оптимизации и аппаратные платформы;\n\n Консультировать продуктовые команды по возможностям, ограничениям и инфраструктурным требованиям моделей;\n\n Взаимодействовать с командами разработки моделей, DevOps/SRE, Agents Space и частных инсталляций.\n\n Требования:\n Практический опыт запуска LLM или других крупных генеративных моделей в production либо на высоконагруженных стендах;\n\n Хорошее понимание архитектуры Transformer и жизненного цикла inference-запроса;\n\n Опыт работы хотя бы с одним современным inference-движком: vLLM, NVIDIA TensorRT-LLM, Triton Inference Server, Hugging Face TGI или аналогичным;\n\n Понимание tensor/pipeline parallelism, continuous batching, KV cache и методов управления памятью;\n\n Знание методов квантизации и их влияния на качество и производительность;\n\n Практический опыт работы с GPU, CUDA и инструментами диагностики;\n\n Уверенное владение Python;\n\n Опыт контейнеризации с Docker и развертывания сервисов в Kubernetes;\n\n Опыт проведения нагрузочных тестов и анализа latency, throughput, time to first token и inter-token latency;\n\n Опыт настройки мониторинга и профилирования inference-сервисов;\n\n Знание Linux, Git и основных принципов CI/CD;\n\n Умение документировать эксперименты и принимать решения на основании измеримых результатов.\n\n ## Будет преимуществом\n Опыт работы с NVIDIA GPU Operator, DCGM, MIG, NCCL и multi-node inference;\n Знание PyTorch и Hugging Face Transformers;\n Опыт оптимизации моделей с помощью TensorRT, ONNX или custom kernels;\n Опыт работы с Ray Serve, KServe, Seldon или аналогичными системами;\n Понимание особенностей MoE-моделей, speculative decoding и prefix caching;\n Опыт построения автоматизированного контура оценки качества LLM;\n Опыт эксплуатации моделей в on-premise или изолированных средах;\n Опыт расчета и оптимизации unit-экономики inference.","description_format":"text","description_chars":3067,"description_truncated":false,"requirements":{"experience_years_min":null,"management_years_min":null,"team_size_min":null,"manages_managers":false,"education":null,"security_clearance":false,"languages":[{"language":"Russian","level":"Advanced (C1)","optional":false}]},"benefits":[],"hiring_locations":[{"name":"Russia","iso":"RU","kind":"country"}],"hiring_excludes":[],"relocation_offered":false,"industries":["Cloud Platforms (IaaS & PaaS)","AI Compute & Inference"],"lifecycle":[{"event":"open","at":"2026-08-27T11:54:51Z"},{"event":"reopen","at":"2026-09-15T00:17:38Z"},{"event":"6","at":"2026-09-22T09:02:27Z"}],"visa":[],"liveness":{"score":27,"band":"fade","label":"Fading","p_open":1,"p_active":0.362,"p_room":0.75,"age_days":23,"expected_fill_days":30,"reasons":["conf:4","repost:2","stale_co","velocity","win:late"],"computed_at":"2026-10-16T05:45:00Z"},"pay":null,"html_url":"https://alion.io/job/cloud-ru-llmops-devops-2","json_url":"https://alion.io/job/cloud-ru-llmops-devops-2.json","meta":{"generated_at":"2026-10-17T05:15:31Z","cache_seconds":300,"methodology":"https://alion.io/methodology","terms":"https://alion.io/terms","contact":"https://alion.io/contact","api":"https://alion.io/developers","about":"Alion is a live layer of people, companies and AI agents: who they are, whether they are real and active right now, what they do and how to work with them, readable by people and by agents and paid per call.","catalog":"https://alion.io/catalog.json","usage":{"tier":"crawler_verified","counted_by":"address","units_charged":1,"used_today":7014,"day_limit":null,"remaining_today":null,"minute_limit":300,"resets_at":"2026-10-18T00:00:00Z"}},"offers":[{"id":"company.slices","title":"One company in depth, by slice","status":"live","price":{"credits":0.02,"usd":0.002,"plus_per_slice":{"credits":0.05,"usd":0.005}},"unit":"per company, plus each slice with data","note":"the employer in depth","call":{"mcp_tool":"get_company","arguments":{"id":946},"rest":"https://alion.io/mcp/rest/get_company?id=946"},"human":"https://alion.io/catalog?offer=company.slices&for=job%2Fcloud-ru-llmops-devops-2"},{"id":"market.stats","title":"A market slice: pay, demand and time to fill","status":"live","price":{"credits":1,"usd":0.1},"unit":"per slice","note":"pay, demand and time to fill for this role and place","call":{"mcp_tool":"market_stats"},"human":"https://alion.io/catalog?offer=market.stats&for=job%2Fcloud-ru-llmops-devops-2"},{"id":"job.search","title":"Open jobs by role, technology, place, pay and visa","status":"live","price":{"credits":0.02,"usd":0.002},"unit":"per posting in a list","note":"similar open postings","call":{"mcp_tool":"search_jobs"},"human":"https://alion.io/catalog?offer=job.search&for=job%2Fcloud-ru-llmops-devops-2"},{"id":"company.verify","title":"Is this company real and active right now","status":"pilot","price":null,"unit":"per company","request":{"url":"https://alion.io/catalog/request","method":"POST","body":"{\"offer\": \"company.verify\", \"for\": \"job/cloud-ru-llmops-devops-2\", \"note\": \"what you need it for\"}"},"human":"https://alion.io/catalog?offer=company.verify&for=job%2Fcloud-ru-llmops-devops-2"}]}