DevOps Engineer - AI Infrastructure & Orchestration
W ITLT pomagamy naszym zaprzyjaźnionym firmom przekształcać ambitne pomysły w cyfrową rzeczywistość.
Z nastawieniem na wyzwania, ciekawość technologii i zwinność - współtworzymy wyjątkowe rozwiązania IT.
Aktualnie poszukujemy osób na stanowisko: DevOps Engineer (AI Infrastructure & Orchestration)
Konkrety:
Stawka: 190 PLN/h na FV
Miejsce pracy/praca zdalna: Praca zdalna (Remote)
Wymiar pracy: Fulltime
Sektor: AI/Telco
Projekt: On-prem LLM platform - orkiestracja i monitoring vLLM na GPU clusterze
Zespół: 6-8os.
Proces rekrutacji: 1-etapowy (spotkanie zdalne via MS Teams). Sporadycznie możliwe dodatkowe krótkie spotkanie - połączone z decyzją
Szacowany czas trwania projektu: Długoterminowy/Bezterminowy
Czas pracy/Strefa czasowa: Standardowe polskie godziny pracy
Technologie na projekcie: Kubernetes (OpenShift), vLLM, NVIDIA GPU (H100/H200/B300), Prometheus, Grafana, ELK, OpenTelemetry, Python, Bash, Go, GitLab CI, Jenkins, ArgoCD, bare metal
Do Twoich głównych obowiązków na tym stanowisku należeć będzie:
Deployment i utrzymanie vLLM na Openshift Kubernetes (bare-metal GPU)
Orkiestracja i optymalizacja GPU (NVIDIA)
Automatyzacja lifecycle modeli (HF/S3: pull, versioning, hot-swap)
HPA (queue depth, GPU memory)
Tuning vLLM (performance, batching, memory)
Metryki inference (tokeny, latency, errors) + tracking zużycia per user/API key
Grafana dashboards (GPU, TTFT, RPS, koszty, quota)
Alerting (GPU failures, latency, anomalies)
API Gateway (NGINX: auth, rate limit, routing)
Security + isolation + audit logging
Monitoring stack (Prometheus, Grafana, ELK, OpenTelemetry)
Automatyzacja (Python/Bash/Go)
CI/CD (GitLab CI, Jenkins, ArgoCD)
SLA 99.9%, >70% GPU utilization, MTTR reduction
Ta oferta będzie idealna dla Ciebie, jeśli posiadasz:
Min. 5+ lat doświadczenia w DevOps/SRE
Min. 2 lata doświadczenia w MLOps lub AI Infrastructure
Doświadczenie w deploymencie vLLM w środowisku produkcyjnym
Znajomość PagedAttention i continuous batching (vLLM)
Bardzo dobra znajomość Kubernetes i Openshift
Doświadczenie w infrastrukturze GPU NVIDIA (CUDA drivers, container toolkit, debugging)
Umiejętność zarządzania i debugowania środowisk GPU
Doświadczenie w budowie systemów observability od zera
Umiejętność tworzenia custom Prometheus exporters
Bardzo dobra znajomość Python (automation, tooling)
Znajomość Bash i Go
Doświadczenie w pracy z CI/CD (GitLab CI, Jenkins, ArgoCD)
Doświadczenie w środowiskach on-prem / bare-metal
Nice to have:
Znajomość GPU orchestration w Kubernetes (device plugins NVIDIA)
Znajomość model quantization (AWQ, GPTQ)
Znajomość FinOps dla AI infrastructure
Znajomość vector databases (Milvus, Qdrant)
Warto do nas dołączyć, ponieważ oferujemy:
Dużą swobodę pracy zdalnej
Długofalowe stabilne zatrudnienie
Szansę na uczestniczenie w kluczowych projektach dla dużej firmy działającej w bardzo stabilnym sektorze
Atrakcyjne wynagrodzenie (adekwatne do umiejętności i doświadczenia)
Benefity (Lux Med, MultiSport...)
W razie pytań pingnij śmiało na Linkedin'ie do
Kuby