LLM Serving Ecosystem Engineer (NPU Software Stack)

Ecosystem 파트는 각 컴포넌트가 하나의 서빙 스택으로 실제 고객 시나리오에서 동작하는지 검증해 release하고, 리벨리온 NPU를 vLLM, llm-d 등 오픈소스 서빙 생태계에 통합합니다. 반복 작업은 AI coding agent에게 맡기고, 사람은 검증 설계와 판단에 집중하는 방식으로 일합니다.

Responsibilities and Opportunities

• 통합 검증 및 Release
• 컴포넌트 버전 조합을 자동 검증하는 CI 설계·운영 및 release 기준 수립
• 서빙 기능·출력 정확도 검증을 위한 효율적인 테스트 설계
• 의존성 관리 및 컨테이너 이미지 빌드, CI 소요 시간 단축 및 flaky test 관리
• 서빙 생태계 통합 및 성능 검증
• vLLM, llm-d, Kubernetes 기반 AI 플랫폼과의 통합 및 upstream 기여
• 분산 서빙(PD disaggregation, KV cache offloading 등) 성능 측정 및 회귀 원인 분석
• 테스트 인프라
• NPU 다중 노드 클러스터 기반의 안정적인 CI 환경 구축·운영
• 컴포넌트·버전·하드웨어·설정 단위로 회귀 지점을 좁히는 진단 체계 구축

Key Qualifications

• Linux, Python, Shell script 활용에 능숙한 분
• 컨테이너·Kubernetes 환경에서의 빌드·배포·디버깅 경험
• CI/CD 파이프라인 구축 또는 운영 경험
• 변인 통제를 통해 재현 가능한 형태로 문제 원인을 좁혀 본 경험
• LLM 추론 서빙 또는 클러스터 인프라(네트워크, 스토리지, 가상화) 중 한 분야에 대한 깊은 이해
• Claude Code, Codex 등 AI coding agent를 실무에 활용하고 결과물을 검증할 수 있는

Ideal Qualifications

• vLLM, llm-d 등 LLM 서빙 프레임워크 운영 또는 오픈소스 upstream 기여 경험
• 분산 LLM 서빙(병렬화, KV cache, PD disaggregation) 구성 및 성능 최적화 경험
• GPU/NPU 등 가속기 기반 테스트 인프라 구축·운영 경험
• RDMA 네트워크 또는 분산 스토리지 경험
• 재현·비교 가능한 성능 벤치마크 설계 경험
• CI 최적화, release 절차 정비, self-hosted runner 운영 경험

전형절차

• 서류전형 > On-line 인터뷰 > On-site 인터뷰(프로젝트 발표 포함) > Culture-fit인터뷰 > 처우 협의 > 최종 합격
• 전형절차는 직무별로 다르게 운영될 수 있으며, 일정 및 상황에 따라 변동될 수 있습니다.
• 전형 일정 및 결과는 지원 시 작성하신 이메일로 개별 안내드립니다.

참고사항

• 본 공고는 모집 완료 시 조기 마감될 수 있습니다.
• 지원서 내용 중 허위사실이 있는 경우에는 합격이 취소될 수 있습니다.
• 채용 및 업무 수행과 관련하여 요구되는 법령 상 자격이 갖추어지지 않은 경우 채용이 제한될 수 있습니다.
• 보훈 대상자 및 장애인 여부는 채용 과정에서 어떠한 불이익도 미치지 않습니다.
• 담당 업무 범위는 후보자의 전반적인 경력과 경험 등 제반사정을 고려하여 변경될 수 있습니다. 이러한 변경이 필요할 경우, 최종 합격 통지 전 적절한 시기에 후보자와 커뮤니케이션 될 예정입니다.
• 채용 관련 문의사항은 아래 메일 주소로 문의바랍니다.
• [email protected]