{"id":463225,"url":"https://alion.io/job/lg-ai-research-llm-inference-engineer","title":"LLM Inference Engineer","company":{"id":178449,"name":"LG AI Research","domain":"lgresearch.ai","url":"https://alion.io/company/lg-ai-research","size_band":null,"is_staffing_agency":false,"employer_type":"direct","is_intermediary":false,"listed_via":null,"ats_vendor":"Greenhouse","truth_index":{"grade":"C","score":69,"open_postings":37,"ghost_share":0.432,"stale_share":0,"repost_share":0,"time_to_fill_p50_days":145,"computed_at":"2026-10-20T05:45:00Z"}},"role":"AI/ML","role_family":"AI/ML","seniority":null,"employment_type":null,"work_mode":"on_site","remote_scope":null,"remote_scope_basis":null,"remote_working_hours":null,"hiring_geo_confidence":"structured","locations":["Seoul, South Korea"],"countries":["KR"],"hiring_countries":[],"hiring_countries_total":0,"salary":null,"salary_estimate":null,"experience_years_min":null,"visa_sponsorship":false,"relocation_package":false,"has_equity":false,"technologies":[{"name":"C++","optional":false},{"name":"CUDA","optional":false},{"name":"CUDA Toolkit","optional":false},{"name":"LLM","optional":false},{"name":"Ollama","optional":false},{"name":"ONNX","optional":false},{"name":"Python","optional":false},{"name":"PyTorch","optional":false},{"name":"PyTorch C++","optional":false},{"name":"SGLang","optional":false},{"name":"TensorFlow","optional":false},{"name":"TensorFlow C++","optional":false},{"name":"Transformers","optional":false},{"name":"vLLM","optional":false}],"status":"live","first_seen_at":"2025-09-10T02:38:56Z","employer_posted_date":"2026-09-28","last_verified_at":"2026-10-21T02:25:48Z","board_verified":true,"closed_at":null,"days_open":406,"trust":{"level":"ok","repost_count":0,"flags":["company_stale"],"days_open":405},"description":"팀 소개\nPlatform&Infra Team은 AI모델의 개발부터 서비스 운영을 위한 배포에 이르기까지 AI모델의 수명 주기를 최적화하고, 효율적으로 관리하기 위한 MLOps 파이프라인을 구축합니다. 또한 AI서비스의 안정적인 운영 지원을 위한 보안성 강화, 인프라 관리 및 자원 최적화 업무를 수행합니다.\n팀 내에서 LLM Inference Engineer는 대규모 언어 모델(LLM)의 추론 성능을 최적화하고, 다양한 프레임워크에서 EXAONE모델을 안정적으로 서빙할 수 있는 엔진을 개발합니다. 또한, 오픈소스 프로젝트의 공식 채널을 통해 요청되는 기능 개선, 버그 수정, 성능 최적화 등의 요건에 대응하며, 다양한 환경에서 LLM이 안정적으로 동작할 수 있도록 기여합니다.\n수행 업무\nLLM 추론 성능 최적화: 대규모 언어 모델(LLM)의 추론 성능을 극대화하기 위한 개선 방안을 도출하고 설계에 참여합니다.\n서빙 엔진 개발: 다양한 프레임워크 상에서 엑사원 모델을 안정적으로 서빙할 수 있는 엔진을 개발합니다.\n오픈소스 기여: 오픈소스 LLM 서빙 프레임워크(vLLM, SGLang, Ollama 등)의 공식 채널을 통해 요청되는 기능 개선, 버그 수정, 성능 최적화 등의 요건에 대응하고 기여합니다.\n다양한 환경 지원: chat_template을 활용하여 다양한 언어와 환경에서 LLM이 올바르게 동작할 수 있도록 적용하고 개선합니다.\n모델 추론 가속화: NPU/GPU 기반의 Serving 전략을 설계하고, 모델 추론 가속화 알고리즘을 연구 및 구현합니다.\n지원자격\n모델 추론 가속화 및 Inference Back-end 구현 경험: 모델 추론 성능을 높이기 위한 알고리즘 연구 및 구현 경험\nNPU/GPU 기반 Serving 전략 및 개발 경험: NPU/GPU를 활용한 모델 서빙 전략 설계 및 구현 경험\n오픈소스 LLM Serving Framework 기여 경험: vLLM, SGLang, Ollama 등 오픈소스 LLM 서빙 프레임워크에 기여한 경험(contribution)\n*우대사항 \n머신러닝 모델 수명 주기에 대한 이해: 모델 개발, 학습, 서빙, 배포 등 각 단계에 대한 경험과 이해\nAI 및 머신러닝 기술에 대한 깊은 이해: Python, C++, TensorFlow, PyTorch, ONNX, CUDA, NPU 등 AI 및 머신러닝 관련 기술에 대한 숙련도\nTransformer 기반 모델 및 LLM에 대한 이해: Attention 메커니즘, 대규모 언어 모델(LLM)의 구조와 동작 원리에 대한 깊은 이해\nLLM 디코딩 전략 및 추론 기술에 대한 이해: Greedy Search, Beam Search, Top-k Sampling 등 디코딩 전략에 대한 이해\nchat_template 활용 경험: 다양한 환경에서 LLM이 올바르게 동작할 수 있도록 chat_template을 설계하고 적용한 경험\n전형절차\n서류심사 → 코딩테스트 → 1차 PT직무 인터뷰(온라인) → 2차 직무 인터뷰(온라인) → LG AI Fit Check(온라인) → 최종 합격\n* 전형 절차는 변경될 수 있습니다. 서류 합격 시 전형 절차에 대해 별도로 안내 드립니다.\n현재 LG AI연구원은 병역지정업체가 아니므로, 전문연구요원 채용 및 전직이 불가함을 알려드립니다.\n지원시 문제가 있을 경우  로 문의 부탁드립니다.","description_format":"text","description_chars":1657,"description_truncated":false,"requirements":{"experience_years_min":null,"management_years_min":null,"team_size_min":null,"manages_managers":false,"education":null,"security_clearance":false,"languages":[{"language":"Korean","level":"Advanced (C1)","optional":false}]},"benefits":[],"hiring_locations":[],"hiring_excludes":[],"relocation_offered":false,"industries":["Foundation Models","AI Research Labs"],"lifecycle":[{"event":"open","at":"2026-09-06T11:38:17Z"}],"visa":[],"liveness":{"score":10,"band":"cold","label":"Long shot","p_open":1,"p_active":0.351,"p_room":0.28,"age_days":405,"expected_fill_days":145,"reasons":["conf:0","velocity","win:tail","crowd:"],"computed_at":"2026-10-20T05:45:00Z"},"pay":null,"html_url":"https://alion.io/job/lg-ai-research-llm-inference-engineer","json_url":"https://alion.io/job/lg-ai-research-llm-inference-engineer.json","meta":{"generated_at":"2026-10-21T05:03:20Z","cache_seconds":300,"methodology":"https://alion.io/methodology","terms":"https://alion.io/terms","contact":"https://alion.io/contact","api":"https://alion.io/developers","about":"Alion is a live layer of people, companies and AI agents: who they are, whether they are real and active right now, what they do and how to work with them, readable by people and by agents and paid per call.","catalog":"https://alion.io/catalog.json","usage":{"tier":"crawler_verified","counted_by":"address","units_charged":1,"used_today":7473,"day_limit":null,"remaining_today":null,"minute_limit":300,"resets_at":"2026-10-22T00:00:00Z"}},"offers":[{"id":"company.slices","title":"One company in depth, by slice","status":"live","price":{"credits":0.02,"usd":0.002,"plus_per_slice":{"credits":0.05,"usd":0.005}},"unit":"per company, plus each slice with data","note":"the employer in depth","call":{"mcp_tool":"get_company","arguments":{"id":178449},"rest":"https://alion.io/mcp/rest/get_company?id=178449"},"human":"https://alion.io/catalog?offer=company.slices&for=job%2Flg-ai-research-llm-inference-engineer"},{"id":"market.stats","title":"A market slice: pay, demand and time to fill","status":"live","price":{"credits":1,"usd":0.1},"unit":"per slice","note":"pay, demand and time to fill for this role and place","call":{"mcp_tool":"market_stats"},"human":"https://alion.io/catalog?offer=market.stats&for=job%2Flg-ai-research-llm-inference-engineer"},{"id":"job.search","title":"Open jobs by role, technology, place, pay and visa","status":"live","price":{"credits":0.02,"usd":0.002},"unit":"per posting in a list","note":"similar open postings","call":{"mcp_tool":"search_jobs"},"human":"https://alion.io/catalog?offer=job.search&for=job%2Flg-ai-research-llm-inference-engineer"},{"id":"company.verify","title":"Is this company real and active right now","status":"pilot","price":null,"unit":"per company","request":{"url":"https://alion.io/catalog/request","method":"POST","body":"{\"offer\": \"company.verify\", \"for\": \"job/lg-ai-research-llm-inference-engineer\", \"note\": \"what you need it for\"}"},"human":"https://alion.io/catalog?offer=company.verify&for=job%2Flg-ai-research-llm-inference-engineer"}]}