LLM Platform Engineer

Мы разрабатываем прикладные LLM-решения для внутренних продуктов и процессов: от ассистентов и автоматизации рутины до интеграции моделей с корпоративными системами. Фокус - надёжные прикладные сервисы.

Чем предстоит заниматься:

• проектировать и поддерживать MCP-серверы (Python/TypeScript): tools для LLM, auth, интеграция с корпоративными API (Bitbucket Server, EWS/Outlook, Grafana и др.);
• поддерживать и отвечать за единый реестр скиллов, плагинов и MCP-серверов;
• участвовать в разработке безопасной среды исполнения агентов;
• участвовать в выводе в prod/preprod: прототип → сервис → мониторинг качества, latency и cost;
• работать с кодовой базой и документацией, предлагать решения с учётом ограничений инфраструктуры Okko.

Необходимые навыки:

Обязательно:

• высшее техническое образование;
• уверенный Python; опыт backend-разработки и интеграций с API;
• понимание современных LLM и LLM-приложений: prompt engineering, function/tool calling, RAG там, где нужен контекст;
• опыт работы с Model Context Protocol (MCP);
• опыт интеграций через REST API и настройки доступа, плюсом - работа с системами контроля версий и review-процессами;
• сильные навыки CI/CD: Docker/k8s, gitlab-ci, Jenkins;
• опыт с трейсингом и логированием в контексте LLM: Langfuse, LangSmith, OpenTelemetry;
• умение писать поддерживаемый код, тесты на критичные сценарии, документация;
• опыт настройки инференса LLM (vLLM, SGLang, TensorRT).

Желательно:

• опыт работы с векторными БД (Faiss, Chroma, Qdrant);
• опыт с LLM-платформами (OpenWebUI) и библиотеками оркестрации (чат-интерфейсы, LiteLLM, LangChain и аналоги).

Мы предлагаем:

• необходимое оборудование и софт для работы;

• официальное трудоустройство;

• ДМС со стоматологией, офисный врач, доплата больничного листа, корпоративные скидки;

• льготные условия ипотеки в рамках зарплатного проекта;

• бесплатная подписка на сервисы партнёров;

• корпоративный спорт;

• насыщенная корпоративная жизнь;

• электронная библиотека издательства МИФ, в которую входят почти 2 тыс. единиц контента по бизнесу, саморазвитию, здоровому образу жизни и другим актуальным темам.