Infrastructure & AI Engineer

Sidekick - это международная IT-компания, которая разрабатывает современное программное обеспечение в сфере веб и мобильных приложений.

Почему Sidekick?

• Мы работаем с международными клиентами из Великобритании, Германии и США.
• Используем современный стек технологий, а также развиваем экспертизу в таких современных и востребованных доменах как FinTech, DeFi, AI (ML/DL);
• Профессиональный рост: менторство, knowledge sharing, регулярные performance review.

AI / LLM-инфраструктура

• Разворачивать, настраивать и поддерживать self-hosted LLM.

• Обслуживать GPU-серверы и оптимизировать расход GPU и VRAM.

• Запускать inference-сервисы на vLLM, llama.cpp и других движках, следить за их работой.

• Настраивать и чинить NVIDIA Drivers, CUDA, NCCL и Docker GPU.

• Собирать Multi-GPU-конфигурации.

• Внедрять AI-агентов и agentic workflows.

• Подключать LLM и агентов к внутренним сервисам компании.

• Помогать автоматизировать процессы с помощью AI.

Инфраструктура

• Администрировать Linux, Proxmox VE, Docker и LXC.

• Поддерживать серверный и GPU-парк.

• Развивать мониторинг на Zabbix, Grafana и Prometheus.

• Разбирать и закрывать инфраструктурные и сетевые инциденты.

• Управлять VPN, Firewall, VLAN, маршрутизацией и доступами.

• Выстраивать резервное копирование и Disaster Recovery.

Автоматизация

• Автоматизировать развертывание и настройку серверов и сервисов.

• Писать сценарии на Ansible, Terraform и других инструментах.

• Сокращать ручные операции, чтобы инфраструктура работала стабильнее.

Помощь команде

• Решать инфраструктурные задачи вместе с разработчиками, DevOps, QAи NОC.

• Настраивать окружения и CI/CD.

• От 3 лет в системном или сетевом администрировании.

• Уверенное администрирование Linux.

• Знание сетей: TCP/IP, Routing, Switching, VLAN, NAT, VPN, Firewall, DNS, Proxy.

• Опыт работы с Proxmox VE, Docker и LXC.

• Опыт настройки мониторинга на Zabbix, Grafana или Prometheus.

• Опыт обслуживание серверов и GPU-инфраструктуры.

• Опыт установки и ремонта NVIDIA drivers, CUDA toolkit, nvidia-container-toolkit, диагностики через nvidia-smi.

• Понимание основ информационной безопасности и управления доступами.

• Понимание принципов LLM inference и self-hosted LLM.

• Опыт запуска нагрузки на GPU, подсчета VRAM, сборки Docker-контейнеров с GPU.

• Знание vLLM или llama.cpp и OpenAI-compatible API.

• Опыт деплоя open-weight моделей: Qwen, GLM, Llama, Mistral и другие.

• Понимание CUDA и NCCL.

• Опыт использования AI coding-агентов: OpenHands, Continue или аналогов.

• Опыт построения agentic workflows и связывания LLM с внутренними сервисами.

• Ansible, Bash, Python, CI/CD, Terraform, Git и Git Workflow.

• Опыт автоматизации развертывания и настройки серверов.

• Опыт обслуживания bare-metal серверы: IPMI / BMC, прошивки, аппаратная диагностика.

• Умение описывать инфраструктуру в Markdown или Wiki.

Будет плюсом:

• Опыт с Multi-GPU.

• Знакомство с Hermes и OpenCode.

• Опыт с Vast.ai: развертывание GPU-инстансов, настройка Docker-окружения и запуск AI workloads.

• Bittensor: опыт запуска Miner и Validator, и работы с Subnets.

• Опыт автоматизации развертывания GPU-инфраструктуры.

Мы предлагаем:

• Официальное оформление по ТК РБ;
• 5 sick-days в год;
• Частичная/полная оплата курсов по повышению квалификации;
• Возмещение затрат на спорт.

Добро пожаловать в команду!

*Вакансия является планируемой к созданию и замещению (перспективной).