Senior Platform Engineer - AI Platform / LLM Infrastructure

W ITLT pomagamy naszym zaprzyjaźnionym firmom przekształcać ambitne pomysły w cyfrową rzeczywistość.

Z nastawieniem na wyzwania, ciekawość technologii i zwinność - współtworzymy wyjątkowe rozwiązania IT.

Aktualnie poszukujemy osób na stanowisko: Senior Platform Engineer - AI Platform / LLM Infrastructure (100% Remote)

Responsibilities

• Projektowanie, budowa i utrzymanie self-hosted AI platform runtime
• Rozwój LLM Gateway i warstwy routingu (np. LiteLLM lub podobne rozwiązania)
• Budowa i utrzymanie model serving / inference infrastructure
• Projektowanie API oraz abstrakcji usług zapewniających spójny dostęp do AI
• Rozwój vector storage i retrieval systems
• Implementacja caching oraz optymalizacji wydajności
• Praca z Docker i Kubernetes
• Rozwój Infrastructure-as-Code i GitOps z wykorzystaniem Terraform, Helm lub podobnych narzędzi
• Implementacja observability, monitoringu i distributed tracing
• Zapewnienie security - secrets management, access control, data protection
• Optymalizacja performance, scalability i cost efficiency workloadów AI
• Integracja środowisk AWS, Azure oraz on-premises
• Współpraca z zespołami SDK i application engineering w celu integracji platformy
• Production support, incident response i operational ownership
• Ustalanie standardów technicznych oraz mentoring innych engineerów

Requirements

• Stawka: 180 PLN/h na FV
• Miejsce pracy/praca zdalna: 100% Remote
• Wymiar pracy: Fulltime
• Sektor: AI / Platform Engineering
• Projekt: Budowa i rozwój self-hosted AI platform dla środowisk hybrydowych i multi-cloud (AWS, Azure, on-prem)
• Zespół: 6-8os.
• Proces rekrutacji: 1-etapowy (spotkanie zdalne via MS Teams). Sporadycznie możliwe dodatkowe krótkie spotkanie - połączone z decyzją
• Szacowany czas trwania projektu: Długoterminowy/bezterminowy
• Czas pracy/Strefa czasowa: Standardowe polskie godziny pracy
• Technologie/tematy na projekcie: AWS, Azure, Kubernetes, Docker, Terraform, Helm, GitOps, LiteLLM lub podobny LLM Gateway, model serving/inference, API, vector storage/retrieval, caching, observability/monitoring/tracing, secrets management, IAM/access control

Benefits

• Senior-level experience w Platform Engineering / Distributed Systems
• Hands-on doświadczenie z Kubernetes i Docker
• Doświadczenie w budowie platform abstractions / Internal Developer Platforms (IDP)
• Praktyczna znajomość AI/LLM ecosystem - model serving, routing lub inference workflows
• Znajomość API design, service design oraz systemów multi-tenant
• Doświadczenie z observability, monitoringiem i distributed tracing
• Mocne doświadczenie w production environments i operational ownership
• Znajomość security i compliance w środowiskach rozproszonych
• Doświadczenie z hybrid / multi-cloud environments