{"id":2682240,"url":"https://alion.io/job/yandex-data-platform-engineer-nrtspark","title":"Data Platform Engineer (NRT/Spark)","company":{"id":150,"name":"Yandex","domain":"ya.ru","url":"https://alion.io/company/yandex","size_band":"5000+","is_staffing_agency":false,"employer_type":"direct","is_intermediary":false,"listed_via":null,"ats_vendor":"Career site","truth_index":{"grade":"B","score":80,"open_postings":129,"ghost_share":0,"stale_share":1,"repost_share":0,"time_to_fill_p50_days":16,"computed_at":"2026-10-17T05:46:00Z"}},"role":"Data Science","role_family":"Data Science","seniority":null,"employment_type":null,"work_mode":"hybrid","remote_scope":null,"remote_scope_basis":null,"remote_working_hours":null,"hiring_geo_confidence":"inferred","locations":[],"countries":[],"hiring_countries":[],"hiring_countries_total":0,"salary":null,"salary_estimate":null,"experience_years_min":null,"visa_sponsorship":false,"relocation_package":false,"has_equity":false,"technologies":[{"name":"Airflow","optional":false},{"name":"Amazon S3","optional":false},{"name":"ClickHouse","optional":false},{"name":"ETL/ELT","optional":false},{"name":"Greenplum","optional":false},{"name":"Hadoop","optional":false},{"name":"PostgreSQL","optional":false},{"name":"Python","optional":false},{"name":"Spark","optional":false},{"name":"SQL","optional":false},{"name":"Trino","optional":false},{"name":"Yandex Cloud","optional":false}],"status":"live","first_seen_at":"2026-03-23T00:00:00Z","employer_posted_date":"2026-10-14","last_verified_at":"2026-10-17T19:13:51Z","board_verified":true,"closed_at":null,"days_open":208,"trust":{"level":"stale","repost_count":0,"flags":["stale"],"days_open":208},"description":"Финтех в Яндексе - это экосистема финансовых сервисов, встроенная в повседневную жизнь миллионов пользователей и бизнесов. Мы ищем специалиста по Apache Spark с глубоким пониманием внутренней архитектуры фреймворка.\nФинтех в Яндексе - это одно из ключевых и наиболее динамично развивающихся направлений компании. Это экосистема финансовых сервисов, встроенная в повседневную жизнь миллионов пользователей и бизнесов. Это молодое, смелое направление, которое уже доказало свою пользу и продолжает активно расти.\nКлючевые продукты Финтеха: Яндекс Пэй, Сплит, Сейвы, Карта Плюса, кредитные продукты, Яндекс ID, Яндекс Про и многое другое.\nЭто сложная инженерная и аналитическая среда, где пересекаются высокая нагрузка, большие данные и жёсткие требования регуляторов.\nВ команду платформенных данных требуется специалист по Apache Spark с глубоким понимаем внутренней архитектуры фреймворка. Основная задача - развитие платформы для обработки NRT-данных (near real time), повышение отказоустойчивости и производительности потоковых процессов.\nВот с чем вам предстоит столкнуться:\nВысокие нагрузки: миллионы транзакций, таблицы с объёмом далеко за 1 млн записей\nРаспределённые данные: используются Greenplum, ClickHouse, Hadoop, Spark для обработки огромных массивов информации\nАрхитектура DWH: строятся сложные хранилища данных, витрины для отчётности (регуляторной и управленческой), настраиваются ETL-процессы\nБезопасность и интеграция: проработка интеграций с внешними источниками (БКИ, СМЭВ), автоматизация ручных процессов бэк-офиса, работа с автоматизированными банковскими системами\nСтек для ежедневных задач:\nЯзык: Python (основной для разработки пайплайнов и скриптов)\nОркестрация: Apache Airflow (разработка пайплайнов)\nОбработка данных: Apache Spark (Spark SQL, DataFrame)\nЗапросы: Trino (работа с данными через движок)\nПодробнее о нас - на странице Финтеха.\nКакие задачи вас ждут\nПроектирование и развитие облачной дата-платформы\nМы готовимся к кратному росту объёмов обрабатываемых данных. Вы будете оптимизировать инфраструктуру и проектировать новые компоненты платформы с использованием облачных технологий Yandex Cloud.\nПостроение единой observability-платформы для таблиц DWH\nМы обеспечиваем наблюдаемость и контролируемость процессов. Вам предстоит создать единую точку входа для мониторинга статусов сборки, качества данных и анализа зависимостей, включая построение datalineage и процессы логирования.\nУскорение текущих процессов поставки данных\nНаша задача - ускорить обработку растущих потоков данных. Вы будете оптимизировать существующие и выстраивать новые надёжные процессы поставки данных, включая процессы взятия снепшотов, загрузки инкрементов напрямую, из аудит-таблиц и CDC, а также внедрять Spark Streaming или аналогичные решения для обеспечения обновления данных с минимальной задержкой.\nПостроение тестовых окружений\nМы выстраиваем среду безопасной разработки и повышаем надёжность разрабатываемых решений. В ваши задачи войдёт создание изолированных сред разработки, тестирования и предпрода с автоматизированными процессами проверки.\nРазвитие фреймворков обработки данных\nДля ускорения разработки мы создаём low-code-решения. Вам предстоит развивать внутренние фреймворки для загрузки, трансформации и контроля качества данных.\nБольше о разработке в Яндексе - в канале Yandex for Developers\nМы ждем, что вы\nЗанимались коммерческой разработкой от четырёх лет\nГлубоко понимаете устройство баз данных: оптимизация запросов, планы выполнения, партиционирование, шардирование и индексы\nВладеете СУБД разного типа: PostgreSQL, Oracle, MongoDB, Greenplum\nИмеете опыт работы с CDC (Change Data Capture): понимаете принципы и умеете реализовывать пайплайны\nУверенно работаете с S3-совместимыми хранилищами","description_format":"text","description_chars":3731,"description_truncated":false,"requirements":{"experience_years_min":null,"management_years_min":null,"team_size_min":null,"manages_managers":false,"education":null,"security_clearance":false,"languages":[{"language":"Russian","level":"Advanced (C1)","optional":false}]},"benefits":[],"hiring_locations":[],"hiring_excludes":[],"relocation_offered":false,"industries":["LLM & Generative AI","Delivery","Cloud Platforms (IaaS & PaaS)","Consumer Internet Groups"],"lifecycle":[{"event":"open","at":"2026-10-16T06:48:35Z"}],"visa":[],"liveness":{"score":2,"band":"cold","label":"Long shot","p_open":1,"p_active":0.059,"p_room":0.28,"age_days":208,"expected_fill_days":16,"reasons":["conf:4","stale_co","velocity","win:tail","crowd:brand"],"computed_at":"2026-10-17T05:46:00Z"},"pay":null,"html_url":"https://alion.io/job/yandex-data-platform-engineer-nrtspark","json_url":"https://alion.io/job/yandex-data-platform-engineer-nrtspark.json","meta":{"generated_at":"2026-10-17T22:02:33Z","cache_seconds":300,"methodology":"https://alion.io/methodology","terms":"https://alion.io/terms","contact":"https://alion.io/contact","api":"https://alion.io/developers","about":"Alion is a live layer of people, companies and AI agents: who they are, whether they are real and active right now, what they do and how to work with them, readable by people and by agents and paid per call.","catalog":"https://alion.io/catalog.json","usage":{"tier":"crawler_verified","counted_by":"address","units_charged":1,"used_today":6990,"day_limit":null,"remaining_today":null,"minute_limit":300,"resets_at":"2026-10-18T00:00:00Z"}},"offers":[{"id":"company.slices","title":"One company in depth, by slice","status":"live","price":{"credits":0.02,"usd":0.002,"plus_per_slice":{"credits":0.05,"usd":0.005}},"unit":"per company, plus each slice with data","note":"the employer in depth","call":{"mcp_tool":"get_company","arguments":{"id":150},"rest":"https://alion.io/mcp/rest/get_company?id=150"},"human":"https://alion.io/catalog?offer=company.slices&for=job%2Fyandex-data-platform-engineer-nrtspark"},{"id":"market.stats","title":"A market slice: pay, demand and time to fill","status":"live","price":{"credits":1,"usd":0.1},"unit":"per slice","note":"pay, demand and time to fill for this role and place","call":{"mcp_tool":"market_stats"},"human":"https://alion.io/catalog?offer=market.stats&for=job%2Fyandex-data-platform-engineer-nrtspark"},{"id":"job.search","title":"Open jobs by role, technology, place, pay and visa","status":"live","price":{"credits":0.02,"usd":0.002},"unit":"per posting in a list","note":"similar open postings","call":{"mcp_tool":"search_jobs"},"human":"https://alion.io/catalog?offer=job.search&for=job%2Fyandex-data-platform-engineer-nrtspark"},{"id":"company.verify","title":"Is this company real and active right now","status":"pilot","price":null,"unit":"per company","request":{"url":"https://alion.io/catalog/request","method":"POST","body":"{\"offer\": \"company.verify\", \"for\": \"job/yandex-data-platform-engineer-nrtspark\", \"note\": \"what you need it for\"}"},"human":"https://alion.io/catalog?offer=company.verify&for=job%2Fyandex-data-platform-engineer-nrtspark"}]}