Senior DevOps Engineer – GenAI Platform & Azure Cloud

Du möchtest die Entwicklung innovativer KI-Lösungen aktiv mitgestalten? Als Senior DevOps Engineer berätst du beim Aufbau einer modernen GenAI-Plattform und bringst deine technische Expertise in deren Konzeption und Umsetzung ein. In einem interdisziplinären DevOps-Team aus Data Scientists, Business Engineers und DevOps Engineers entwickelst du gemeinsam zukunftsorientierte Lösungen und treibst den Aufbau der Plattform voran.

Hauptaufgaben:

• Konfiguration und Verwaltung von Azure Cloud-Ressourcen insbesondere API Management, Foundry, OpenAI, AI Search, Document Intelligence sowie Kubernetes-basierten Applikationen wie Langfuse als "Infrastructure-as-Code" mit Terraform, HelmChart und Gitlab

• Automatisierung von Build-, Test- und Release-Prozessen für GenAI-Anwendungen (LLMOps), um häufige und zuverlässige Releases in Entwicklungs-, Test- und Produktionsumgebungen sicherzustellen

• Mitarbeit bei der Ausarbeitung von technischen Konzepten für die Umsetzung neuer Anforderungen an die GenAI Plattform, sowie derer laufenden Weiterentwicklung und Optimierung. Dabei sind alle Komponenten (Datenbanken, LLM-Modelle und andere AI-Services, Anwendungen), Aufwände, der laufende Betrieb mit diversen Client Applikationen und insbesondere die unternehmensweiten und regulatorischen Vorgaben zu berücksichtigen und abzustimmen.

• Implementierung von Mechanismen für das Monitoring und die Alarmierung (z. B. Grafana und Azure Dashboard), um die Stabilität und Effizienz der Plattform zu gewährleisten

• Support der Client Applikation bei konzeptionellen Fragen, Integrationen (Onboarding) sowie bei Problemen im Betrieb

• Überwachung der Systemleistung, Betriebszeit und Protokolle, um Probleme frühzeitig zu erkennen und zu beheben

• Neu- und Weiterentwicklung von code-basierten Umsetzungen für beispielweise Autorisierungsprüfung, Logging/Monitoring, Routinglogiken, Guardrails-Validierungen mit Java, Python, XML, C# (APIM Policies)

Requirements

Anforderungen:

• Fundierte Kenntnisse mit DevOps-Toolchains (z. B. Git, Gitlab, Docker, Terraform), um die Plattform Services state-of-the-art bereitzustellen und zu betreiben

• Tiefgehendes Wissen über Azure Cloud-Dienste: Azure API Management, AKS, Azure Functions, OpenAI, AI Search, Document Intelligence, Azure Foundry, Storage Accounts

• Kenntnisse im Bereich DevOps, einschliesslich der Nutzung von Monitoring-Tools (z. B. Prometheus, Grafana, Azure Monitor), Logging-Systemen und Alarmierung, um eine hohe Verfügbarkeit sicherzustellen

• Idealerweise Projekterfahrung mit GenAI-Technologien, einschliesslich Retrieval-Augmented Generation (RAG) und Agentic AI, sowie Erfahrung in der Optimierung von GenAI-Lösungen

• Fähigkeit, Konzepte und Architekturlösungen zu entwickeln und gegenüber IT-Security und Domänen-Architektur zu vertreten

• Fundiertes Verständnis von Authentisierung- und Autorisierungsverfahren mittels Azure EntraID, RBAC und OAuth Konzepte

• Kenntnisse in der Softwareentwicklung mit Python und / oder Java

Generelle Rahmenbedingungen:

• Pensum: 100%

• Einsatz: ab 1. Januar 2027 bis 31. März 2028

• Arbeitsort: vor Ort beim Kunden in Zürich

• Gute Deutsch- und Englischkenntnisse zwingend