NLP-разработчик в Алису

Навыки: NLP. Специализации: ML разработчик.

Мы - команда ML-исследователей и инженеров внутри Алисы. Строим первого в России автономного computer-use-агента, который умеет пользоваться компьютерными средами как человек: кликать, скроллить, заполнять формы, переключаться между приложениями и решать задачи пользователя автономно.

У нас уже есть работающий прототип в проде, платформа агентов на миллионы пользователей, GPU-кластеры, симуляторы сред и пайплайны обучения через GRPO-like-подходы. Нам нужен человек, который выведет RL-обучение агента на новый уровень.

Какие задачи вас ждут

Проектировать и запускать эксперименты по обучению агента взаимодействию с компьютерными средами

Вам предстоит придумывать и реализовывать новые RL-пайплайны - от формулировки reward-функций до архитектуры обучения на многошаговых траекториях с вызовами тулов. Вы будете работать с симуляторами сред и реальными траекториями: строить data flywheel от сбора данных до улучшения модели. Нужно будет обучать и файнтюнить большие модели, оптимизировать инференс для прода: FP8, дистилляцию, параллелизм.

Улучшать GUI grounding и визуальное понимание экрана (VLM-компоненты агента)

Вы будете участвовать в проектировании архитектуры агента: memory, planning, оркестрации тулов. Предстоит уделять внимание safety- и truthfulness-аспектам, доводить R&D-результаты до продакшна на платформе, обслуживающей миллионы пользователей.

Больше об ML в Яндексе - в канале Yandex for ML

Мы ждем, что вы

• Имеете глубокий практический опыт с DL и RL: обучали модели через GRPO, GSPO, DAPO, Dr.GRPO, понимаете нюансы reward design, знаете, почему обучение разваливается и как это чинить
• Обучали большие модели - занимались файнтюнингом LLM и VLM не по туториалу, а в реальных задачах
• Обладаете исследовательским мышлением: умеете находить и критически оценивать статьи, вычленять применимые идеи и быстро проверять гипотезы
• Работаете с задачей от постановки эксперимента до результата в проде
• Уверенно владеете Python, PyTorch

Будет плюсом, если вы

• Работали с VLM: занимались их обучением, файнтюнингом, инференсом
• Работали с multi-turn RL на траекториях взаимодействия с инструментами и средой
• Имеете публикации на топ-конференциях: NeurIPS, ICML, ICLR, ACL и т. д.
• Работали с computer use, web agents, GUI grounding