Senior GenAI / LLMOps Engineer

Nasz Klient to duża organizacja rozwijająca rozwiązania z obszaru sztucznej inteligencji oraz budująca standardy bezpiecznego i skalowalnego wykorzystania Generative AI (GenAI) w środowisku enterprise.

Projekt koncentruje się na budowie i rozwoju technicznych fundamentów umożliwiających bezpieczne, kontrolowane i efektywne kosztowo wykorzystywanie modeli Large Language Models (LLM) przez aplikacje, agentów AI oraz zespoły developerskie. Zakres obejmuje obszary GenAI, LLMOps, AI Governance, Cloud, DevOps i Data, w tym rozwój centralnej warstwy dostępowej do modeli, observability oraz mechanizmów bezpieczeństwa i kontroli kosztów.

Do współpracy poszukujemy osoby o silnym, hands-on profilu technicznym, posiadającej praktyczne doświadczenie w projektach GenAI / LLM i gotowej samodzielnie analizować, testować, konfigurować oraz wdrażać rozwiązania związane z infrastrukturą GenAI.

Tryb Współpracy: 100% zdalnie

Dostępność: Poszukujemy osób dostępnych od zaraz lub z maksymalnie 1-miesięczną dostępnością

CZYM BĘDZIESZ SIĘ ZAJMOWAĆ?

• Projektowaniem i rozwojem bezpiecznej warstwy dostępu do modeli LLM, w tym rozwiązań klasy LLM Gateway / API Gateway, umożliwiających centralne zarządzanie modelami różnych dostawców
• Rozwojem integracji API z modelami LLM, obejmujących mechanizmy uwierzytelniania, autoryzacji, routingu, limitowania dostępu oraz kontroli wykorzystania modeli
• Budowaniem mechanizmów observability dla środowiska GenAI, obejmujących centralne logowanie oraz monitoring wykorzystania modeli, aplikacji, tokenów, błędów i kosztów
• Testowaniem i oceną modeli LLM, sposobów ich hostowania oraz technologii GenAI pod kątem jakości, bezpieczeństwa, wydajności, możliwości integracyjnych i kosztów, również dla rozwiązań on-premise i private cloud
• Realizacją technicznych Proof of Concept (PoC) oraz analiz dotyczących nowych modeli, narzędzi i możliwości GenAI, a następnie wsparciem w doprowadzaniu wybranych rozwiązań do standardu produkcyjnego
• Współpracą z zespołami DevOps, Cloud, Security, Data i Architecture przy przekładaniu zasad AI Governance oraz bezpieczeństwa na konkretne rozwiązania technologiczne

CZEGO OD CIEBIE OCZEKUJEMY?

Must have:

• Praktyczne doświadczenie projektowe z Generative AI / LLM oraz udział w budowie rzeczywistych rozwiązań wykorzystujących modele językowe
• Bardzo dobra znajomość integracji z modelami LLM poprzez API oraz architektury rozwiązań GenAI wykorzystywanych w środowiskach enterprise
• Doświadczenie lub bardzo dobra znajomość obszaru LLMOps / GenAIOps, w tym zagadnień związanych z udostępnianiem, monitoringiem i zarządzaniem modelami
• Znajomość mechanizmów API Gateway, uwierzytelniania, zarządzania dostępem, routingu, logowania, monitoringu i observability
• Dobra znajomość ekosystemu modeli LLM, w tym rozwiązań OpenAI, Anthropic, Google oraz modeli open-source
• Znajomość SQL oraz doświadczenie w samodzielnej realizacji technicznych analiz, eksperymentów i Proof of Concept

Nice to have:

• Doświadczenie z rozwiązaniami LiteLLM, AI Gateway, model router lub proxy dla modeli LLM
• Doświadczenie z Azure OpenAI, Google Vertex AI, Anthropic lub hostowaniem modeli open-source / on-premise
• Znajomość Snowflake oraz doświadczenie z platformami danych lub hurtowniami danych
• Znajomość Kubernetes, konteneryzacji, CI/CD oraz środowisk chmurowych
• Doświadczenie z observability, FinOps lub optymalizacją kosztów usług AI/cloud
• Znajomość RAG (Retrieval-Augmented Generation), agentów AI i narzędzi developerskich wykorzystujących LLM

DLACZEGO WARTO?

• Projekt obejmujący budowę technicznych fundamentów środowiska GenAI, w tym LLM Gateway, integracje API, observability, security oraz optymalizację kosztów
• Możliwość budowania technicznych fundamentów środowiska GenAI - od LLM Gateway i integracji API po observability, security i optymalizację kosztów
• Hands-on charakter współpracy z przestrzenią na samodzielne eksperymenty, Proof of Concept oraz wdrażanie nowych rozwiązań technologicznych
• Projekt z dynamicznie rozwijającym się ekosystemem LLM / GenAI oraz modelami komercyjnymi i open-source
• Współpraca z doświadczonymi zespołami DevOps, Cloud, Security, Data i Architecture
• 100% zdalny model współpracy

Dziękujemy za wszystkie zgłoszenia! Skontaktujemy się z wybranymi osobami.