{"id":4028,"url":"https://alion.io/job/2-up-python-backend-llm-engineer-fastapi-langgraph-rag","title":"Python Backend / LLM Engineer (FastAPI, LangGraph, RAG)","company":{"id":1717,"name":"2-Up","domain":"2-up.ru","url":"https://alion.io/company/2-up","size_band":"11-50","is_staffing_agency":false,"employer_type":"direct","is_intermediary":false,"listed_via":null,"ats_vendor":"HeadHunter","truth_index":null},"role":"AI/ML","role_family":"AI/ML","seniority":"middle","employment_type":null,"work_mode":"remote","remote_scope":"stated_regions","remote_scope_basis":"board_field","remote_working_hours":null,"hiring_geo_confidence":"structured","locations":["Moscow, Russia"],"countries":["RU"],"hiring_countries":["RU","BY","KZ","KG","AM"],"hiring_countries_total":5,"salary":{"min":null,"max":300000,"currency":"RUB","period":"month","gross":false,"usd_annual":39888},"salary_estimate":null,"experience_years_min":3,"visa_sponsorship":false,"relocation_package":false,"has_equity":false,"technologies":[{"name":"Aiohttp","optional":false},{"name":"Amazon S3","optional":false},{"name":"Anthropic","optional":false},{"name":"Asyncio","optional":false},{"name":"CI/CD","optional":false},{"name":"Confluence","optional":false},{"name":"Django","optional":false},{"name":"Docker","optional":false},{"name":"Embeddings","optional":false},{"name":"FastAPI","optional":false},{"name":"Flask","optional":false},{"name":"Function Calling","optional":false},{"name":"Google Workspace","optional":false},{"name":"Jira","optional":false},{"name":"LangChain","optional":false},{"name":"Langfuse","optional":false},{"name":"LangGraph","optional":false},{"name":"LiteLLM","optional":false},{"name":"LLM","optional":false},{"name":"Model Context Protocol","optional":false},{"name":"OpenAI","optional":false},{"name":"OpenRouter","optional":false},{"name":"PEFT","optional":false},{"name":"PostgreSQL","optional":false},{"name":"Python","optional":false},{"name":"RAG","optional":false},{"name":"Redis","optional":false},{"name":"Reranking","optional":false},{"name":"WebSockets","optional":false},{"name":"AI Agents","optional":true},{"name":"Fine-tuning","optional":true},{"name":"Grafana","optional":true},{"name":"GraphRAG","optional":true},{"name":"Hugging Face","optional":true},{"name":"Keycloak","optional":true},{"name":"Kubernetes","optional":true},{"name":"LangSmith","optional":true},{"name":"LoRA","optional":true},{"name":"MinIO","optional":true},{"name":"Ollama","optional":true},{"name":"OpenTelemetry","optional":true},{"name":"pgvector","optional":true},{"name":"Pinecone","optional":true},{"name":"Prometheus","optional":true},{"name":"Qdrant","optional":true},{"name":"QLoRA","optional":true},{"name":"vLLM","optional":true},{"name":"Weaviate","optional":true}],"status":"live","first_seen_at":"2026-07-16T12:29:07Z","employer_posted_date":"2026-07-16","last_verified_at":"2026-10-31T12:23:16Z","board_verified":true,"closed_at":null,"days_open":107,"trust":{"level":"stale","repost_count":0,"flags":["stale"],"days_open":106},"description":"О проекте\n 2UP AI Platform - корпоративная AI SaaS-платформа для создания и развёртывания граф-агентов на базе LangGraph.\n Платформа объединяет агентные сценарии, RAG, работу с несколькими LLM-провайдерами, корпоративные интеграции, мультитенантную архитектуру, потоковую генерацию ответов и инструменты наблюдаемости.\n Мы ищем инженера, который сможет работать на стыке сильного Python backend и прикладной AI-разработки: развивать сервисы платформы, создавать LLM-агентов, улучшать RAG-пайплайны и доводить AI-функциональность до стабильного production.\n Что предстоит делать\n Backend и архитектура платформы\n Разрабатывать и развивать сервисы на Python и FastAPI.\n Проектировать API и внутреннюю архитектуру AI-платформы.\n Работать с асинхронным Python: asyncio, aiohttp, async-драйверы баз данных.\n Развивать pipeline обработки сообщений: инициализация, подготовка контекста, retrieval, вызов LLM, работа с инструментами, кэширование, метрики и форматирование ответа.\n Работать с MongoDB: модели данных, индексы, запросы, агрегации и оптимизация производительности.\n Использовать Redis для кэширования, хранения состояния и временных данных.\n Реализовывать WebSocket/SSE streaming ответов AI-агентов.\n Интегрировать корпоративные и внешние сервисы через API: Jira, Confluence, Google Workspace, S3, OAuth/OIDC и другие системы.\n Писать тесты, участвовать в code review и рефакторинге существующего кода.\n LLM, агенты и RAG\n Разрабатывать AI-агентов и графовые workflow на LangGraph.\n Реализовывать StateGraph, tool calling, memory, управление контекстом, ветвлениями и обработкой ошибок.\n Создавать и улучшать RAG-пайплайны для работы с документами и корпоративными источниками знаний.\n Настраивать загрузку и обработку PDF, DOCX, PPTX, wiki, тикетов и других источников.\n Работать с чанкингом, метаданными, embeddings, векторным и гибридным поиском.\n Настраивать retrieval, reranking, фильтрацию и цитирование источников.\n Интегрировать разные LLM через OpenAI API, Anthropic API, OpenRouter, LiteLLM или аналогичные инструменты.\n Разрабатывать MCP-инструменты и подключать их к агентному фреймворку.\n Улучшать качество ответов и снижать количество галлюцинаций.\n Оптимизировать latency, стоимость запросов, размер контекста и выбор моделей.\n Качество и эксплуатация\n Настраивать трассировку и наблюдаемость LLM-сценариев.\n Формировать наборы тестовых запросов и проводить регрессионные проверки.\n Использовать Langfuse, RAGAS, LLM-as-a-judge или аналогичные подходы.\n Участвовать в контейнеризации, CI/CD, мониторинге и логировании.\n Анализировать production-инциденты и повышать устойчивость AI-сервисов.\n Обязательные требования\n От 3 лет коммерческого опыта backend-разработки на Python.\n Уверенное знание Python 3.11+.\n Практический опыт разработки production-сервисов на FastAPI, Flask, Django или аналогичных фреймворках.\n Опыт с асинхронным Python.\n Опыт работы с PostgreSQL и/или MongoDB.\n Практический опыт с Redis.\n Уверенная работа с Docker и docker-compose.\n Опыт интеграции внешних API.\n Опыт работы с LLM API и понимание особенностей LLM-систем.\n Практический опыт создания RAG-решений.\n Опыт с LangChain, LangGraph или аналогичными агентными фреймворками.\n Понимание embeddings, vector search, chunking, retrieval и reranking.\n Умение разбираться в существующем коде и развивать уже работающую систему.\n Будет плюсом\n Опыт с Qdrant, pgvector, Pinecone, Weaviate или другими векторными хранилищами.\n Опыт с LightRAG, GraphRAG или agentic RAG.\n Практический опыт с Langfuse, LangSmith, RAGAS.\n Опыт разработки MCP-серверов и инструментов.\n Опыт с LiteLLM и несколькими LLM-провайдерами.\n Опыт с Keycloak, OAuth2, OIDC и JWT.\n Опыт разработки мультитенантных SaaS-систем.\n Опыт с S3/MinIO.\n Знание Prometheus, Grafana, Sentry, OpenTelemetry.\n Опыт с Kubernetes и CI/CD.\n Опыт self-hosted LLM, vLLM, Ollama или Hugging Face.\n Опыт fine-tuning моделей через LoRA/QLoRA.\n Кого мы ищем\n Нам подойдёт инженер, который:\n не ограничивается прототипами и умеет доводить решения до production;\n одинаково уверенно чувствует себя в backend-разработке и AI-интеграциях;\n понимает, что качество AI-системы зависит не только от промпта, но и от архитектуры, данных, retrieval, наблюдаемости и обработки ошибок;\n умеет принимать технические решения с учётом качества, скорости, стоимости и дальнейшего масштабирования;\n готов работать с существующей кодовой базой, а не только создавать решения с нуля.\n Условия\n Работа над собственной корпоративной AI-платформой.\n Удалённый или гибридный формат.\n Полная занятость.\n Возможность влиять на архитектуру продукта и технические решения.\n Задачи на стыке backend, LLM, RAG и AI Agents.\n Оформление и уровень дохода обсуждаются индивидуально.\n Процесс отбора\n Короткое знакомство с HR.\n Техническое интервью с командой.\n Финальная встреча с руководителем.","description_format":"text","description_chars":4804,"description_truncated":false,"requirements":{"experience_years_min":3,"management_years_min":null,"team_size_min":null,"manages_managers":false,"education":null,"security_clearance":false,"languages":[{"language":"Russian","level":"Advanced (C1)","optional":false}]},"benefits":[],"hiring_locations":[{"name":"Russia","iso":"RU","kind":"country"},{"name":"Belarus","iso":"BY","kind":"region"},{"name":"Kazakhstan","iso":"KZ","kind":"region"},{"name":"Kyrgyzstan","iso":"KG","kind":"region"},{"name":"Armenia","iso":"AM","kind":"region"}],"hiring_excludes":[],"relocation_offered":false,"industries":["Artificial Intelligence","Information Technology","Professional Services","Mining"],"lifecycle":[{"event":"open","at":"2026-07-16T12:29:07Z"}],"visa":[],"liveness":{"score":4,"band":"cold","label":"Long shot","p_open":1,"p_active":0.126,"p_room":0.28,"age_days":106,"expected_fill_days":7,"reasons":["conf:19","win:tail","crowd:"],"computed_at":"2026-10-31T05:58:55Z"},"pay":{"stated_usd_annual":39888,"is_top_pay":false},"html_url":"https://alion.io/job/2-up-python-backend-llm-engineer-fastapi-langgraph-rag","json_url":"https://alion.io/job/2-up-python-backend-llm-engineer-fastapi-langgraph-rag.json","meta":{"generated_at":"2026-11-01T00:26:38Z","cache_seconds":300,"methodology":"https://alion.io/methodology","terms":"https://alion.io/terms","contact":"https://alion.io/contact","api":"https://alion.io/developers","about":"Alion is a live layer of people, companies and AI agents: who they are, whether they are real and active right now, what they do and how to work with them, readable by people and by agents and paid per call.","catalog":"https://alion.io/catalog.json","usage":{"tier":"crawler_verified","counted_by":"address","units_charged":1,"used_today":734,"day_limit":null,"remaining_today":null,"minute_limit":300,"resets_at":"2026-11-02T00:00:00Z"}},"offers":[{"id":"company.slices","title":"One company in depth, by slice","status":"live","price":{"credits":0.02,"usd":0.002,"plus_per_slice":{"credits":0.05,"usd":0.005}},"unit":"per company, plus each slice with data","note":"the employer in depth","call":{"mcp_tool":"get_company","arguments":{"id":1717},"rest":"https://alion.io/mcp/rest/get_company?id=1717"},"human":"https://alion.io/catalog?offer=company.slices&for=job%2F2-up-python-backend-llm-engineer-fastapi-langgraph-rag"},{"id":"market.stats","title":"A market slice: pay, demand and time to fill","status":"live","price":{"credits":1,"usd":0.1},"unit":"per slice","note":"pay, demand and time to fill for this role and place","call":{"mcp_tool":"market_stats"},"human":"https://alion.io/catalog?offer=market.stats&for=job%2F2-up-python-backend-llm-engineer-fastapi-langgraph-rag"},{"id":"job.search","title":"Open jobs by role, technology, place, pay and visa","status":"live","price":{"credits":0.02,"usd":0.002},"unit":"per posting in a list","note":"similar open postings","call":{"mcp_tool":"search_jobs"},"human":"https://alion.io/catalog?offer=job.search&for=job%2F2-up-python-backend-llm-engineer-fastapi-langgraph-rag"},{"id":"company.verify","title":"Is this company real and active right now","status":"pilot","price":null,"unit":"per company","request":{"url":"https://alion.io/catalog/request","method":"POST","body":"{\"offer\": \"company.verify\", \"for\": \"job/2-up-python-backend-llm-engineer-fastapi-langgraph-rag\", \"note\": \"what you need it for\"}"},"human":"https://alion.io/catalog?offer=company.verify&for=job%2F2-up-python-backend-llm-engineer-fastapi-langgraph-rag"}],"agent":{"mcp":"https://alion.io/mcp/jobs","mcp_open":"https://alion.io/mcp/open","next":[{"tool":"get_job","arguments":{"id":4028}},{"tool":"search_jobs","arguments":{"company":"2-up.ru","detail":"compact"}},{"tool":"match_people","arguments":{"job_id":4028},"note":"people open to offers who fit this vacancy"}],"note":"The same data through MCP tools: https://alion.io/mcp/open needs no sign-in (compact searches, postings, people); https://alion.io/mcp with an Alion account has everything. Docs: https://alion.io/developers"}}