Инженер AI-платформы (LLMOps / AI Platform Engineer)

О команде

Мы развиваем внутреннюю on-prem AI-платформу, которой пользуется вся компания: собственный inference на GPU, LLM-шлюз, RAG и AI-агенты в защищённом контуре. Приоритет - собственная инфраструктура там, где это критично. Помимо собственных моделей, платформа обеспечивает безопасное использование внешних моделей; при этом работа с моделями и AI-агентами выполняется в изолированной песочнице (sandbox), ограничивающей доступ к файлам, сети и данным.

Эта роль - про развитие AI-платформы изнутри: установку и конфигурирование AI-сервисов, их развёртывание в Docker и Kubernetes, запуск новых моделей на нашем GPU-оборудовании и обеспечение их безопасности и производительности. Мы ищем инженера с сильным техническим бэкграундом в администрировании Linux, контейнеризации, автоматизации и информационной безопасности.

Чем предстоит заниматься

• Установка, конфигурирование и развитие AI-платформ: веб-интерфейсы для моделей, LLM-шлюзы, оркестрация AI-workflow и агентов, облачные среды разработки (CDE), RAG-платформы
• Развёртывание и сопровождение сервисов: контейнеризация (Docker) и оркестрация (Kubernetes)
• Развёртывание и запуск новых моделей на сервисах инференса (vLLM и аналогичные) с учётом возможностей GPU, включая оптимизацию и quantization
• Безопасные конфигурации (hardening, secure by design) и безопасность платформы: RBAC, secrets management, network policies, изоляция моделей, защита от prompt injection
• Обеспечение изолированного и безопасного выполнения моделей и AI-агентов (sandbox)
• Автоматизация развёртывания и обновления, управление конфигурациями (IaC, CI/CD, GitOps)
• Мониторинг, диагностика и оптимизация производительности; контроль latency, throughput и стоимости инференса
• Оценка качества моделей (evals) и наблюдаемость (observability)
• Развитие и продвижение использования AI-технологий в компании
• Контроль лицензий open-weight моделей и требований compliance
• Взаимодействие с командами разработки и инфраструктуры, подготовка документации
• Обучение и консультирование сотрудников по работе с AI-инструментами

Что для нас важно

• Высшее образование (техническое)
• Опыт работы в роли AI/ML Platform, MLOps или DevOps инженера от 3 лет
• Уверенное понимание принципов работы LLM, RAG и векторных баз данных
• Опыт развёртывания и эксплуатации сервисов: контейнеризация (Docker) и оркестрация (Kubernetes)
• Опыт развёртывания и эксплуатации моделей машинного обучения/LLM на серверных сервисах инференса (vLLM, SGLang, TGI)
• Опыт администрирования Linux
• Навыки работы с GPU (NVIDIA CUDA, VRAM, оптимизация инференса)
• Уверенное владение Python и скриптовыми языками для автоматизации
• Опыт построения CI/CD и управления конфигурациями (Ansible, Terraform, Helm)
• Понимание принципов информационной безопасности и разграничения доступа (RBAC, secrets management)
• Опыт production-эксплуатации: мониторинг, evals, контроль latency, throughput и стоимости
• Аналитические навыки и навыки поиска и устранения неисправностей
• Английский язык на уровне Intermediate и выше

Будет плюсом

• Опыт работы с Open WebUI, LiteLLM, Langflow, RAGFlow, OpenHands и аналогичными
• Опыт администрирования Windows Server
• Опыт с локальными рантаймами инференса (Ollama, llama.cpp);
• Понимание MCP и agentic AI
• Опыт мониторинга (Prometheus, Grafana) и логирования
• Знание принципов fine-tuning и оценки качества моделей
• Хорошие коммуникативные и презентационные навыки

Что мы предлагаем

• Прозрачный карьерный рост: индивидуальный карьерный трек, программы коучинга и менторинга
• Возможность внести свой вклад в изменения бизнеса и расширить профессиональную экспертизу
• Команда профессионалов, которые поддерживают друг друга и работают на результат
• Гибкие начало и конец рабочего дня, возможность работать из офиса или из дома
• Корпоративное обучение: более 50 тренингов, доступ к изучению иностранных языков и электронной библиотеке
• Забота о сотрудниках: ДМС со стоматологией с первого месяца работы и скидка на ДМС для родственников, 5 оплачиваемых дней в году по болезни без оформления больничного, корпоративный спорт и мероприятия, скидки партнеров, программа психологического здоровья, комфортный и стильный офис
• Конкурентная заработная плата, бонусы по итогам финансового года и годовой оценки сотрудника, премии за интенсивную работу и выдающиеся результаты
• Официальное трудоустройство