Техлид агентной платформы

О роли:

Мы создаем AI Box, готовый продукт с набором типовых AI-агентов для бизнес-процессов, таких как бухгалтерия, закупки, производство и другие, с коннекторами к популярным системам. Ищем технического лидера, играющего тренера, который вместе с руководителем определит архитектуру агентной платформы и будет сам участвовать в ее разработке.

Задачи:

• Проектировать архитектуру корпоративных AI-решений: агентов, RAG-пайплайны, интеграции с внешними системами.
• Определять границы применения LLM, классического ML и традиционной разработки для каждой задач.
• Отвечать за полный цикл: от архитектуры до промышленного запуска, мониторинга, масштабирования и сопровождения.
• Строить пайплайны данных, работать с векторными базами и embedding сервисами.
• Выбрать готовый agent harness или разработать собственный.
• Писать код и участвовать в разработке ядра платформы.
• Управлять GPU инфраструктурой для хостинга моделей совместно с MLOps инженером.
• Взаимодействовать с вендорами оборудования, в том числе в командировках.
• Формировать и развивать команду разработки.

Требования:

• Опыт разработки от 3 до 5 лет, из них от 2 до 3 лет непосредственно в AI.
• Уверенное знание Python.
• Опыт работы с LLM, включая облачные модели.
• Опыт работы с реальными enterprise архитектурами, опыт запуска и внедрения проектов в крупных компаниях.
• Сильный уровень синьор. Опыт руководства людьми не обязателен, будет плюсом.
• Опыт проектирования архитектуры программного обеспечения.
• Понимание устройства LLM: архитектура трансформера, attention, токенизация, контекстное окно, эмбеддинги и векторный поиск.
• Понимание батчинга, включая continuous batching, и метрик инференса: TTFT, TPS, throughput, etc.
• Понимание квантизации и форматов вычислений: различия FP16, BF16, FP8, INT8.
• Понимание, что такое agent harness, и runtime.
• Опыт работы с GPU платформами, прежде всего NVIDIA.
• Коммуникабельность, английский язык для общения с техническими специалистами вендоров.

Будет плюсом:

• Практический опыт с vLLM, SGLang, TensorFlow.
• Широкий опыт с разными технологическими стеками. Стек продукта кандидат определяет сам и обосновывает выбор.

Условия:

• Оплата: условия обсуждаются индивидуально с каждым кандидатом.
• Москва, офис. Сейчас метро Кунцевская, в ближайшие месяцы переезд на метро Динамо.
• Первое время работа из офиса, затем возможен гибридный формат. Полная удаленка не предусмотрена.
• Официальное оформление по трудовому договору.
• Командировки к вендорам.