AI Infrastructure Engineer / MLOps (k/m)
Twoim głównym celem będzie kompleksowe projektowanie i wdrażanie infrastruktury dla modeli sztucznej inteligencji (w tym LLM) na serwerach fizycznych u naszych klientów. Czeka Cię praca blisko "metalu" oraz najnowszych technologii GenAI.
Projektowanie architektury rozwiązań on-premise dla systemów AI/LLM oraz tworzenie dokumentacji technicznej.
Przygotowywanie środowiska od podstaw: instalacja i konfiguracja OS (Linux), sterowników GPU (Nvidia/CUDA), środowisk kontenerowych oraz narzędzi MLOps na dedykowanych serwerach fizycznych.
Uruchamianie i optymalizacja lokalnych środowisk do inferencji (serwowania) modeli językowych oraz ich douczania (fine-tuning).
Budowa pipeline'ów danych zasilających modele oraz ich integracja z bazami danych klientów.
Wdrażanie modeli na produkcję, stabilizacja środowiska, testy wydajnościowe oraz walidacja jakości.
Ścisła współpraca z zespołem Data Science przy procesach trenowania i dostrajania modeli na danych klienta.
Czego oczekujemy? (Must-have):
Solidnego doświadczenia na stanowisku DevOps, MLOps, SysAdmin lub podobnym, ze szczególnym uwzględnieniem środowisk on-premise / bare-metal.
Biegłej znajomości systemów z rodzinyLinux oraz zarządzania sieciami.
Praktycznego doświadczenia z ekosystemem GPU: instalacja i konfiguracja sterowników Nvidia, CUDA, cuDNN.
Doświadczenia z konteneryzacją i orkiestracją (Docker, Docker Compose, mile widziany Kubernetes).
Znajomości zagadnień z obszaru MLOps i narzędzi do zarządzania cyklem życia modeli (np. MLflow, DVC, Kubeflow).
Znajomości architektury i narzędzi związanych z LLM (np. vLLM, Ollama, Hugging Face Text Generation Inference, LangChain).
Zdolności analitycznych i architektonicznych oraz umiejętności tworzenia dokumentacji.
Mile widziane:
Umiejętność pisania skryptów wPythonie oraz zrozumienie procesu fine-tuningu modeli językowych (np. LoRA, QLoRA).
Znajomość narzędzi do automatyzacji infrastruktury (Ansible, Terraform).
Doświadczenie w pracy z bazami wektorowymi (np. Milvus, Qdrant, Pinecone).
Jak pracujemy i czego możesz się spodziewać?
Pionierskie projekty: Wdrażanie prywatnych LLM-ów na fizycznym sprzęcie.
Duża autonomia: Masz realny wpływ na architekturę infrastruktury i wybór narzędzi MLOps.
Forma współpracy dopasowana do swoich preferencji: umowę o pracę lub B2B.
Sprzęt: Dostęp do potężnych maszyn obliczeniowych.
Benefity pozapłacowe, m.in. karta Multisport, pakiet medyczny Luxmed/PZU, ubezpieczenie grupowe oraz program poleceń pracowniczych,
Elastyczność: elastyczne godziny pracy, praca zdalna.
Brzmi ciekawie? Aplikuj!