Ingénieur Inférence / GPU H/F

Rejoins une start-up innovante en tant qu'Ingénieur Inférence / GPU. Tu seras responsable de l'optimisation des moteurs d'exécution, du tuning GPU, de la quantisation et de la gestion de la mémoire et du cache. Tu travailleras sur des clusters GPU NVIDIA (ou AMD) en environnement Kubernetes et interagiras avec le CTO sur les choix d'architecture. Une expérience concrète en serving de modèles open source à l'échelle en production est indispensable.

Missions

• Optimisation des moteurs d'exécution (vLLM, SGLang, TensorRT-LLM), tuning GPU, quantisation.
• Travail sur des clusters GPU NVIDIA (ou AMD) en environnement Kubernetes, avec une maîtrise fine de Linux.
• Interaction avec le CTO sur les choix d'architecture et contribution à faire tourner la plateforme en production.

Profil recherché

Indispensables :

- Expérience concrète en serving de modèles open source à l'échelle en production (vLLM, TGI, SGLang, TensorRT ou équivalent)

- Maîtrise de CUDA, Triton ou des kernels GPU bas niveau

- Capacité à identifier un goulot d'étranglement mémoire/cache et à y remédier

- Python solide, à l'aise avec Kubernetes GPU et Linux

- Bonne connaissance du matériel x86, GPU NVIDIA (AMD ou autre fournisseur accepté)

- Curiosité sur les architectures hardware (choix de GPU, mémoire HBM, NVLink, InfiniBand)

Un plus :

- Expérience HPC (RDMA, InfiniBand, RoCE, MPI, NCCL, IO path)

- Contributions open source (vLLM, SGLang, PyTorch, Triton…)

- Sensibilité au contexte souverain / SecNumCloud

Ce qui fait la différence : quelqu'un capable de nommer une brique qu'il a écrite ou modifiée lui-même en production, pas uniquement opérée.