AI Platform Engineer (Recommendation)

합류하게 될 팀에 대해 알려드려요

• ML 플랫폼 팀은 모델 학습부터 서빙까지 E2E를 자동화하는 플랫폼을 만들어요. 새로운 구조로 학습된 모델이라도 서빙 코드를 다시 짜지 않고 그대로 서비스에 배포할 수 있도록 설계해요.
• 이 포지션은 토스의 추천을 만들어내는 모델 파이프라인 전체를 맡아요. 광고, 커머스를 비롯한 여러 도메인의 수백 개 추천 모델이 하나의 플랫폼 위에서 학습되고 서빙돼요.
• 어떤 엔진을 쓸지, 파이프라인을 어떤 구조로 만들지 정해진 답이 없어요. 더 나은 선택지가 있다고 판단하면 직접 검증해 들여오는 것까지 이 팀의 재량이에요.
• 학습에 사용한 데이터 처리 방식과 실제 요청을 처리할 때의 데이터 처리 방식이 다르면 추천 결과에 차이가 생길 수 있어요. 두 환경의 차이를 줄이고 확인할 수 있는 구조를 만들어요.
• 이 포지션은 토스 추천 모델의 학습 파이프라인을 메인으로 맡아요. 최신 학습 기법들을 직접 구현해 플랫폼화하여, 모델러가 설정 변경만으로 다양한 학습 기법을 적용해 실험을 수행할 수 있게 만들어요.

합류하면 함께 할 업무에요

• 추천 모델의 학습 파이프라인을 만들고 확장해요. 새로운 모델 구조나 학습 방식 적용을 위해, 파이프라인을 처음부터 다시 만들지 않게 설계해요.
• 대규모 데이터셋에서도 안정적으로 학습할 수 있도록 분산 전처리와 분산 학습, 스트리밍 학습을 구축해요.
• 학습된 모델을 서빙에 최적화된 형태로 변환하고, 전처리와 모델 추론이 한 요청 안에서 이어지게 구성하여 Training-serving Skew를 없애는 구조를 만들어요.
• DLRM, DeepFM, DCN 과 같은 딥러닝 계열의 모델을 학습하고 서빙까지 이어지는 자동화된 파이프라인을 플랫폼으로 제공해요.
• 모델을 무중단으로 교체할 수 있게 만들고, 지연이나 자원 기준을 넘는 모델은 배포 전에 걸러내요. A/B 테스트와 Shadow 환경, 서빙 모니터링을 제공해 도메인이 직접 성과를 확인하게 해요.

이런 분과 함께하고 싶어요

• 여러 팀이 쓸 학습 또는 서빙 파이프라인을 만들어본 분과 함께하고 싶어요. 모델을 직접 만드는 자리는 아니지만, 모델이 어떻게 동작하는지 이해하고 그것을 시스템으로 옮길 수 있어야 해요.
• 단일 머신으로 감당되지 않는 규모의 데이터를 Spark나 Ray 같은 분산 처리로 다뤄본 분을 찾고 있어요. 데이터 처리 시간과 자원을 줄여본 경험이면 좋아요.
• 추상화된 프레임워크 아래까지 파고들어 최적화하고 디버깅하는 걸 즐기는 분이면 환영해요.

이런 분이면 더 좋아요

• Sequential 모델, Multi-task 모델, Calibration 등을 이해하고, 실제 서비스에 적용해본 경험이 있다면 좋아요.
• 모델 학습에 걸리는 시간과 자원 사용량을 줄이고, 여러 팀이 학습 파이프라인을 재사용할 수 있도록 설계하고 운영해본 분이면 더 좋아요.
• Triton, ONNX Runtime, TensorRT 같은 서빙 스택의 내부 동작을 이해하고, 모델 구조에 맞는 엔진과 포맷을 근거 있게 고를 수 있는 분이면 좋아요.
• JVM 기반 서버와 Python 기반 학습 코드를 오가며 일해본 경험이 있다면 좋아요.

이력서는 이렇게 작성하시는 걸 추천해요

• 진행했던 과제가 조직에 큰 영향력을 미쳤다면 그 내용을 자세히 작성해 주세요.
• 단순히 어떤 언어, 플랫폼, 프레임워크, 기술 등을 사용했는지보다는, 어떤 목적을 가진 과제였는지, 이를 해결하기 위해 무엇을 사용했는지, 어떻게 문제를 해결했는지에 대해 자세히 작성해 주세요.
• 플랫폼을 운영하면서 발생한 치명적인 장애를 해결해 보았거나, 성능/리소스 최적화를 해 본 경험이 있다면 작성해 주세요.
• 오픈소스 사용 중에 발생한 버그나 이슈를 해결해 보았거나, 부족한 기능을 개선하기 위해 오픈소스에 기여했던 경험이 있다면 작성해 주세요.

토스로의 합류여정

• 서류 접수 > 프리 인터뷰 > 직무 인터뷰 > 문화적합성 인터뷰 > 레퍼런스 체크 > 처우 협의 > 최종 합격
• 프리 인터뷰에서는 지원서 기반의 주요 경험과 직무 적합도를 중심으로 면접이 진행될 예정이에요.
• 직무 인터뷰에서는 심층 기술 면접과 ML 시스템 설계를 주제로 면접이 진행될 예정이에요.

함께할 동료를 위한 한마디

> "추천은 모델 하나로 끝나지 않아요. 후보를 좁히고 순위를 매기고 점수를 보정하는 단계가 한 번의 요청 안에서 모두 끝나야 하고, 학습할 때와 서빙할 때가 똑같이 동작해야 해요. 이 두 가지를 지키면서도 더 빠르게 실험하고 서빙할 수 있게 만드는 것이 이 역할이에요."

• 학습 파이프라인과 서빙 파이프라인을 나눠 맡지 않아요. 모델이 왜 온라인에서 다르게 동작하는지 한 사람이 끝까지 따라갈 수 있어요.
• 성격이 다른 여러 도메인의 추천 모델이 한 플랫폼 위에 있어요. 한 도메인에서 푸는 방법이 다음 도메인의 출발점이 돼요.
• 느낌으로 이야기하지 않아요. 지연이 얼마나 줄었고 자원을 얼마나 덜 쓰게 됐는지로 판단해요.