NLP-разработчик в команду качества претрейна Alice LLM
Навыки: NLP, LLM. Специализации: ML разработчик.
Ищем ML-разработчика, который будет улучшать качество претрейна Alice AI LLM. Это направление, отвечающее за умность базовой модели и качество данных.
Гонка LLM ускоряется: модели решают задачи в математике, коде, агентах, медицине, которые ещё недавно требовали участия человека. При этом крупные улучшения LLM происходят при обновлении и масштабировании претрейна: именно на этом этапе закладываются базовые способности модели, от которых зависит качество на всех последующих срезах.
Мы считаем, что побеждает в этой гонке тот, кто эффективнее и быстрее улучшает претрейны, и вкладываемся в это направление: исследуем способы улучшения качества моделей, ставим тяжёлые вычислительные эксперименты, обрабатываем и синтезируем данные огромного масштаба.
Результат нашей работы - это модели семейства Alice AI, которые доступны в одноименном сервисе. Делая нашу модель умнее, вы улучшите главного и самого массового AI-ассистента в России, которым уже пользуется более 24 млн человек еженедельно.
Что мы уже сделали:
Наши текущие претрейн-модели уже успешно показали себя в предыдущих релизах Алисы. Например, мы писали на Хабре, что показываем лучшее качество на фактовых и культурных срезах, замерах и не только. Об исследованиях, которые легли в основу этих улучшений, мы говорили на Practical ML Conf 2025.
Чем вам предстоит заниматься?
Ризонинг-способности модели имеют доказанный профит в таких областях, как математика, код и агенты, но передовые игроки получают хорошие приросты качества за счёт рассуждений на более широком спектре задач: от финансов до компьютерных игр. Наша цель - сделать рассуждающую модель Алисы сильнейшей в РФ и не только.
Какие задачи вас ждут
Эксперименты с претрейн-моделями
Ставить и анализировать вычислительно тяжёлые эксперименты с претрейн-стадией. Проверять гипотезы об источниках прироста ризонинг-способностей внутри различных срезов умности. Постановка и выбор сетапа эксперимента - это довольно творческий этап.
Пайплайны данных
Строить эффективные пайплайны сбора обучающих данных, их синтеза, обработки и фильтрации в новых доменах. Построенные пайплайны предстоит масштабировать и делать более эффективными.
Изменение процесса обучения
Модифицировать процесс обучения модели для задач улучшения ризонинга. Внедрять изменения в обучающий пайплайн и оценивать их влияние на качество.
Экспертные модели
Обучать модели-верификаторы для проверки качества данных и ответов. Обучать модели для генерации обучающих данных, которые являются SOTA в своём узком домене. Обучать модели-фильтры для отсева некачественных данных.
Исследование скейлинга
Исследовать законы скейлинга качества модели с точки зрения данных и вычислений. Определять, как масштабирование влияет на рост рассуждающих способностей в разных доменах.
Больше об ML в Яндексе - в канале Yandex for ML
Мы ждём, что вы
- Глубоко разбираетесь в NLP
- Знаете Python и разрабатывали на нём
Будет плюсом, если вы
- Обучали претрейн-модели в любой из модальностей (NLP, CV, звук, рекомендации)
- Строили эффективные CPU/GPU-пайплайны
- Погружены хотя бы в одну из областей исследования языковых моделей (RL, архитектуры или данные для LLM)