Tech Lead LLM Web H/F

Contexte

Vous rejoignez une équipe AI Service en charge d’une brique technologique stratégique d’une plateforme internationale. En tant que Tech Lead IA, vous concevez et industrialisez des services IA permettant de connecter des modèles de langage (LLM), des moteurs de recherche et des produits applicatifs.

Votre mission consiste à développer des APIs robustes capables d’orchestrer des appels LLM, des pipelines RAG et des traitements massifs, tout en garantissant performance, faible latence, scalabilité, fiabilité et sécurité dans un environnement multi-tenant international.

• Conception des services : définir l’architecture des APIs et des workers, la stratégie de cache et les mécanismes de résilience (retries, circuit breakers, fallback modèles).

• Intégration LLM : concevoir les chaînes d’inférence (prompting, function calling, RAG, embeddings, agents) et industrialiser leur mise en production, en challengeant les choix via des POCs et des benchmarks.

• Performance et scalabilité : définir comment concilier débit, latence et coût pour les traitements synchrones et asynchrones, afin de répondre aux charges de production.

• Définition des APIs : créer des APIs robustes et documentées avec FastAPI, en garantissant des contrats clairs, la validation des données (Pydantic), une authentification unifiée et la propagation du contexte pays.

• Performance et asynchrone : maîtriser asyncio, la concurrence et le parallélisme pour optimiser le débit, en arbitrant entre traitements synchrones et asynchrones selon les contraintes.

• Streaming et temps réel : implémenter le streaming des réponses LLM et assurer une gestion fine des timeouts, du backpressure et de l’annulation des requêtes.

• Observability et Security : intégrer nativement la télémétrie (logs, métriques, traces) et les guardrails de sécurité (gestion des secrets, Zero Trust, isolation des tokens) au cœur des services.

• Gouvernance Inner Source : contribuer à la cohérence et à la réutilisabilité des composants partagés au sein de la communauté technique.

• Accompagnement des équipes : aider les différentes équipes produits à intégrer les capabilities fournies par l’équipe avec un minimum de friction.

• Culture Craftsmanship : promouvoir les pratiques de Clean Code, SOLID et les tests automatisés.

• Rayonnement technique : assurer une veille constante et contribuer au partage des connaissances à travers des articles, meetups et contributions open source.

Profil recherché

Diplôme

• Bac+5 (Master)/Ingénieur/Ph.D

• Langages : Python 3.11+ (maîtrise requise), Go et Java / Spring Boot.

• Web / APIs : FastAPI, Starlette, Pydantic, Uvicorn (ASGI).

• Asynchrone : asyncio, httpx, concurrence et parallélisme (threads, process, workers).

• LLM : OpenAI / Azure OpenAI, LangChain, Mistral, Amazon Bedrock, etc.

• Cloud : AWS et Azure.

• Données et infrastructure : OpenSearch, Weaviate, PostgreSQL, Redis, Celery, Kafka, Docker et CI/CD.

• Tests : Pytest et pytest-asyncio.

• Expérience avérée en développement Python backend sur des services en production à grande échelle.

• Expertise LLM : expérience de l’intégration de modèles de langage en production (prompting, function calling, RAG) et compréhension de leurs contraintes en matière de latence, de coût et de fiabilité.

• Culture Engineering : maîtrise des contrats d’API, du versioning, de la gestion des dépendances et du cycle de vie des tokens d’authentification.

• Capacité à développer sous fortes contraintes de performance, en arbitrant entre synchrone et asynchrone (streaming de réponses LLM, WebSockets, traitements concurrents).

• Polyvalence appréciée : appétence pour d’autres langages, notamment Go ou Java, afin de contribuer à des sujets transverses.

• Anglais courant, dans un contexte de collaboration internationale.

• Vision Produit : comprendre les enjeux métiers afin de prioriser les fonctionnalités. Les APIs sont gérées comme un produit, avec les autres développeurs considérés comme des clients.

• Leadership technique et pédagogie : capacité à diffuser les bonnes pratiques Python et IA auprès des autres développeurs.

• Obsession de la qualité : rigueur absolue sur la sécurité des données et la fiabilité des services.

• Esprit d’innovation : curiosité pour les avancées de l’écosystème IA et Python.

• Communication : capacité à vulgariser des concepts complexes auprès d’interlocuteurs variés.

• Complexité technique stimulante : industrialiser des flux d’IA générative sous fortes contraintes de performance et sur des volumes de données importants.

• Vision long terme : concevoir des composants technologiques réutilisables et contribuer à la définition de standards techniques durables.

• Environnement international : collaborer avec des équipes pluridisciplinaires sur des projets transverses.

• Dimension collective : évoluer au sein d’une équipe d’experts, partager les connaissances et contribuer à l’amélioration continue des pratiques d’ingénierie.