{"id":1962730,"url":"https://alion.io/job/sber-tech-lead-data-engineer-2","title":"Tech Lead Data engineer","company":{"id":67,"name":"Sber","domain":"sber.ru","url":"https://alion.io/company/sber","size_band":"5000+","is_staffing_agency":false,"employer_type":"direct","is_intermediary":false,"listed_via":null,"ats_vendor":"HeadHunter","truth_index":{"grade":"A","score":98,"open_postings":190,"ghost_share":0.053,"stale_share":0,"repost_share":0.232,"time_to_fill_p50_days":7,"computed_at":"2026-10-12T06:55:09Z"}},"role":"Data Science","role_family":"Data Science","seniority":"lead","employment_type":null,"work_mode":"on_site","remote_scope":null,"remote_scope_basis":null,"remote_working_hours":null,"hiring_geo_confidence":"structured","locations":["Moscow, Russia"],"countries":["RU"],"hiring_countries":[],"hiring_countries_total":0,"salary":{"min":null,"max":500000,"currency":"RUB","period":"month","gross":false,"usd_annual":69792},"salary_estimate":null,"experience_years_min":null,"visa_sponsorship":false,"relocation_package":false,"has_equity":false,"technologies":[{"name":"Apache Iceberg","optional":false},{"name":"Apache Kafka","optional":false},{"name":"CI/CD","optional":false},{"name":"ETL/ELT","optional":false},{"name":"Flink","optional":false},{"name":"Greenplum","optional":false},{"name":"Hadoop","optional":false},{"name":"Java","optional":false},{"name":"Jenkins","optional":false},{"name":"Python","optional":false},{"name":"Scala","optional":false},{"name":"Spark","optional":false},{"name":"SQL","optional":false}],"status":"live","first_seen_at":"2026-10-06T16:11:00Z","employer_posted_date":"2026-10-06","last_verified_at":"2026-10-11T10:15:07Z","board_verified":true,"closed_at":null,"days_open":5,"trust":{"level":"ok","repost_count":null,"flags":[],"days_open":5},"description":"Наша команда занимается амбициозной и стратегически важной задачей - построение единого хранилища данных блока B2C - централизованное и эталонное место хранения данных. Мы ищем сильного инженера данных для работы с крупными распределенными системами. Наш стек строится вокруг экосистемы Hadoop, и мы активно развиваем платформу в сторону Data Lakehouse на базе Apache Iceberg и Data Streamhouse на базе Kafka и Apache Flink. Вам предстоит работать с высоконагруженными системами, потоковой обработкой и участвовать в построении единого хранилища данных компании.\nОбязанности\n разработка и оптимизация витрин данных: Проектирование и реализация эффективных ETL и ELT процессов для витрин данных с использованием Apache Spark и Greenplum. Обеспечение высокой производительности и отказоустойчивости пайплайнов.\n п отоковая обработка данных (RT и NRT): Разработка и поддержка стриминговых пайплайнов. Построение NRT пайплайнов обработки данных из Kafka в Apache Iceberg (Kafka2Iceberg) и RT пайплайнов между Kafka (Kafka2Kafka) с использованием Apache Flink и Spark Structured Streaming.\n Архитектура данных:\n активное участие в разработке архитектуры решения потоковой обработки данных Data Streamhouse данных для обеспечения\n разработка предложений по развитию Data Lakehouse, внедрение best practices работы с Apache Iceberg (оптимизация партиционирования, compaction, time travel).\n Инженерные практики:\n реализация механизмов инкрементальной загрузки данных для минимизации времени обработки и нагрузки на источники\n разработка и документирование API (на Java или Scala) для доступа к данным витрин и сервисам семантического слоя\n Производительность и качество:\n глубокая оптимизация Spark-приложений, включая использование векторного движка Gluten/Velox для ускорения рабочих нагрузок\n разработка решений для сверки и контроля качества данных (Data Quality) с использованием Spark и Python.\n DevOps и CI/CD: Внедрение разработанных решений в продуктовую среду. Настройка пайплайнов сборки и деплоя в Jenkins, управление зависимостями задач в Oozie или современных оркестраторах.\n Коммуникация: Взаимодействие с внутренними бизнес заказчиками для уточнения и согласования требований, презентация доработок сервиса.\nТребования\n · Уверенное владение языками: SQL, Java (или Scala), Python (как вспомогательный для ad-hoc анализа и DQ).\n · Глубокое понимание экосистемы Apache Hadoop (HDFS, YARN) и опыт работы с ней в продакшене.\n · Опыт разработки пайплайнов на Apache Spark (Core, SQL, Structured Streaming) уровня не ниже middle.\n · Опыт работы с потоковыми данными: Apache Kafka (как источник/приемник) и хотя бы одним фреймворком стриминговой обработки (Apache Flink или Spark Streaming).\n · Понимание форматов хранения данных (Parquet, ORC, Avro) и современных подходов к управлению Data Lakehouse (обязательно знание Apache Iceberg).\n · Опыт оптимизации производительности Apache Spark (настройка ресурсов, устранение перекосов данных, работа с memory, оптимизация shuffle).\n Будет большим плюсом:\n · Опыт внедрения промышленных пайплайнов пакетной передачи данных.\n · Опыт внедрения промышленных пайплайнов потоковой передачи данных.\n · Опыт внедрения Gluten/Velox или аналогичных векторизованных движков.\n · Навыки сборки и развертывания Doker -образов приложений.\nУсловия\n офисный формат работы (м Кутузовская ул. Поклонная 3)\n годовая премия\n корпоративный спортзал и зоны отдыха\n более 400 образовательных программ СберУниверситета для профессионального и карьерного развития\n регулярные митапы и развитое DS-community\n расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа\n гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ\n подписка Прайм с возможностью совместного использования на трёх близких\n вознаграждение за рекомендацию друзей в команду Сбер.","description_format":"text","description_chars":3813,"description_truncated":false,"requirements":{"experience_years_min":null,"management_years_min":null,"team_size_min":null,"manages_managers":false,"education":null,"security_clearance":false,"languages":[{"language":"Russian","level":"Advanced (C1)","optional":false}]},"benefits":[],"hiring_locations":[],"hiring_excludes":[],"relocation_offered":false,"industries":["LLM & Generative AI","Cloud Platforms (IaaS & PaaS)","Wealth Management & Financial Advisors","Investment Banking & M&A Advisory"],"lifecycle":[{"event":"open","at":"2026-10-06T16:15:12Z"}],"visa":[],"liveness":{"score":59,"band":"ok","label":"Likely open","p_open":1,"p_active":0.783,"p_room":0.75,"age_days":5,"expected_fill_days":7,"reasons":["conf:20","velocity","win:late","comp:brand"],"computed_at":"2026-10-12T06:55:09Z"},"pay":{"stated_usd_annual":69792,"is_top_pay":false},"html_url":"https://alion.io/job/sber-tech-lead-data-engineer-2","json_url":"https://alion.io/job/sber-tech-lead-data-engineer-2.json","meta":{"generated_at":"2026-10-12T10:42:38Z","cache_seconds":300,"methodology":"https://alion.io/methodology","terms":"https://alion.io/terms","contact":"https://alion.io/contact","api":"https://alion.io/developers","about":"Alion is a live layer of people, companies and AI agents: who they are, whether they are real and active right now, what they do and how to work with them, readable by people and by agents and paid per call.","catalog":"https://alion.io/catalog.json","usage":{"tier":"crawler_verified","counted_by":"address","units_charged":1,"used_today":16483,"day_limit":null,"remaining_today":null,"minute_limit":300,"resets_at":"2026-10-13T00:00:00Z"}},"offers":[{"id":"company.slices","title":"One company in depth, by slice","status":"live","price":{"credits":0.02,"usd":0.002,"plus_per_slice":{"credits":0.05,"usd":0.005}},"unit":"per company, plus each slice with data","note":"the employer in depth","call":{"mcp_tool":"get_company","arguments":{"id":67},"rest":"https://alion.io/mcp/rest/get_company?id=67"},"human":"https://alion.io/catalog?offer=company.slices&for=job%2Fsber-tech-lead-data-engineer-2"},{"id":"market.stats","title":"A market slice: pay, demand and time to fill","status":"live","price":{"credits":1,"usd":0.1},"unit":"per slice","note":"pay, demand and time to fill for this role and place","call":{"mcp_tool":"market_stats"},"human":"https://alion.io/catalog?offer=market.stats&for=job%2Fsber-tech-lead-data-engineer-2"},{"id":"job.search","title":"Open jobs by role, technology, place, pay and visa","status":"live","price":{"credits":0.02,"usd":0.002},"unit":"per posting in a list","note":"similar open postings","call":{"mcp_tool":"search_jobs"},"human":"https://alion.io/catalog?offer=job.search&for=job%2Fsber-tech-lead-data-engineer-2"},{"id":"company.verify","title":"Is this company real and active right now","status":"pilot","price":null,"unit":"per company","request":{"url":"https://alion.io/catalog/request","method":"POST","body":"{\"offer\": \"company.verify\", \"for\": \"job/sber-tech-lead-data-engineer-2\", \"note\": \"what you need it for\"}"},"human":"https://alion.io/catalog?offer=company.verify&for=job%2Fsber-tech-lead-data-engineer-2"}]}