Руководитель направления разработки LLM

Лемана Тех ищет руководителя направления разработки, Мы создаём центральную LLM-модель компании, которая станет ядром для интеллектуальных сервисов и внутренних инструментов. Вокруг неё будет выстроена платформа для безопасного и удобного доступа сотрудников к моделям, с логированием, аналитикой и учётом использования ресурсов.

Нам нужен профессионал, который возглавит разработку этой модели и платформы вокруг неё, определит стратегию, архитектуру и руководит командой инженеров.

Обязанности:

• Спроектировать и построить центральную LLM-модель компании (fine-tuning, адаптация под бизнес-задачи, оптимизация)

• Выбрать технологический стек и open-source решения (LangChain, HuggingFace, vLLM, Ray Serve, MLflow и др.)

• Организовать инфраструктуру для обучения, деплоя и масштабирования LLM

• Создать внутреннюю платформу для работы с моделью:

  • управление модельным зоопарком (основная корпоративная LLM + вспомогательные модели),

  • логирование всех запросов/ответов,

  • система мониторинга и аналитики,

  • биллинг и учёт потребления ресурсов

• Обеспечить безопасность, контроль доступа и соответствие комплаенсу

• Руководить разработкой и эксплуатацией: управлять командой, ставить задачи, контролировать качество решений

• Взаимодействовать с бизнесом - формулировать требования и превращать их в архитектурные решения

Требования:

• Опыт работы в роли AI Architect / ML Platform Engineer / Technical Lead от 3-5 лет;

• Практический опыт в обучении и кастомизации LLM (fine-tuning, LoRA, RAG, quantization);

• Знание экосистемы LLM и GenAI (HuggingFace, LangChain, OpenAI API, LlamaIndex и др.);

• Опыт проектирования и эксплуатации AI/ML-платформ в продакшне;

• Владение MLOps/DevOps-практиками (Docker, Kubernetes, CI/CD);

• Опыт работы с системами логирования и мониторинга (Prometheus, Grafana, MLflow);

• Уверенное знание Python и современных бэкенд-фреймворков (FastAPI, gRPC);

• Опыт управления командой инженеров, постановки задач и code review.

• Будет плюсом

• Опыт построения и оптимизации корпоративных или доменных LLM;

• Работа с GPU-кластерами (on-prem и облачные: AWS/GCP/Azure);

• Опыт внедрения внутренних биллинговых систем для IT/ML-сервисов.

Условия:

• Работа в компании с развитой инженерной культурой;

• Гибкая система премирования;

• Расширенный социальный пакет: ДМС со стоматологией с первого месяца работы, психолог и страхование жизни, компенсация питания и оплата мобильной связи;

• Возможности профессионального роста, программы развития для сотрудников;

• Корпоративное обучение и доступ к базе знаний;

• Внутренние профессиональные сообщества и мероприятия;

• Автономность работы, возможность менять правила, ошибаться и создавать новое;

• Формат работы - офис;

• Современный офис в 2 минутах ходьбы от МЦК ЗИЛ.

С каждым годом на выбор сотрудника становится доступно больше дополнительных опций. Например, частичная компенсация путешествий, затрат на обучение, спортивных занятий.