{"id":1319670,"url":"https://alion.io/job/vng-corporation-senior-platform-engineer-ai-inference-agent-platform-greennode","title":"Senior Platform Engineer (AI Inference & Agent Platform), GreenNode","company":{"id":215,"name":"VNG Corporation","domain":"vng.com.vn","url":"https://alion.io/company/vng-corporation","size_band":"1001-5000","is_staffing_agency":false,"employer_type":"direct","is_intermediary":false,"listed_via":null,"ats_vendor":"Career site","truth_index":null},"role":"AI/ML","role_family":"AI/ML","seniority":"senior","employment_type":null,"work_mode":"on_site","remote_scope":null,"remote_scope_basis":null,"remote_working_hours":null,"hiring_geo_confidence":"structured","locations":["Ho Chi Minh City, Vietnam"],"countries":["VN"],"hiring_countries":[],"hiring_countries_total":0,"salary":null,"salary_estimate":{"min_usd":17500,"max_usd":45000,"period":"year","method":"global_role_cell_scaled_by_country","sample_n":2365},"experience_years_min":null,"visa_sponsorship":false,"relocation_package":false,"has_equity":false,"technologies":[{"name":"AI Agents","optional":false},{"name":"Apache Kafka","optional":false},{"name":"ArgoCD","optional":false},{"name":"AWS","optional":false},{"name":"Azure","optional":false},{"name":"Bash","optional":false},{"name":"CI/CD","optional":false},{"name":"ClickHouse","optional":false},{"name":"ElasticSearch","optional":false},{"name":"GCP","optional":false},{"name":"GitOps","optional":false},{"name":"Go","optional":false},{"name":"Grafana","optional":false},{"name":"Helm","optional":false},{"name":"KServe","optional":false},{"name":"Kubernetes","optional":false},{"name":"KV Cache","optional":false},{"name":"Linux","optional":false},{"name":"llama.cpp","optional":false},{"name":"LLM","optional":false},{"name":"LLMOps","optional":false},{"name":"Loki","optional":false},{"name":"OpenSearch","optional":false},{"name":"OpenTelemetry","optional":false},{"name":"Prometheus","optional":false},{"name":"Python","optional":false},{"name":"Quantization","optional":false},{"name":"RAG","optional":false},{"name":"Ray Serve","optional":false},{"name":"SGLang","optional":false},{"name":"SLI/SLO/SLA","optional":false},{"name":"TensorRT-LLM","optional":false},{"name":"Terraform","optional":false},{"name":"Triton","optional":false},{"name":"vLLM","optional":false},{"name":"Ray","optional":true},{"name":"TensorRT","optional":true}],"status":"live","first_seen_at":"2026-09-26T20:42:01Z","employer_posted_date":"2026-09-26","last_verified_at":"2026-10-27T03:42:32Z","board_verified":true,"closed_at":null,"days_open":30,"trust":{"level":"ok","repost_count":null,"flags":[],"days_open":30},"description":"Chúng tôi đang tìm kiếm Senior Platform Engineercó kinh nghiệm trong việc triển khai, vận hành và tối ưu các hệ thống Kubernetes (K8S), LLM Inference Platform và Agent Platform phục vụ các workloads AI/GenAI ở quy mô lớn.Bạn sẽ đóng vai trò quan trọng trong việc xây dựng và vận hành các nền tảng AI-native tập trung vào large-scale LLM inference, GPU acceleration, agent workloads đảm bảo hệ thống ổn định, hiệu năng cao và có khả năng mở rộng.\nTrách nhiệm chính\nTriển khai, vận hành và tối ưu Kubernetes clusters trên môi trường cloud hoặc on-premise. \nXây dựng và vận hành LLM Inference Platform và Agent Platform phục vụ GenAI applications, AI agents và large-scale AI workloads. \nTriển khai và tối ưu các inference engines như vLLM, SGLang, Triton, TensorRT-LLM, llama.cpp, KServe, Ray Serve hoặc các nền tảng tương đương. \nTối ưu inference performance cho LLM workloads thông qua batching, quantization, KV-cache optimization, parallelism và runtime tuning. \nTối ưu GPU utilization, autoscaling, scheduling, latency và throughput cho large-scale inference systems. \nThiết kế và vận hành scalable serving architectures cho multi-tenant AI workloads với các yêu cầu về high availability và cost efficiency. \nThiết lập và vận hành monitoring & observability systems cho AI platform và inference workloads. \nDefine và tinh chỉnh metrics, alert thresholds, SLO/SLA và error budgets cho inference services. \nXây dựng deployment pipelines, rollout strategies và automation workflows cho AI systems. \nTham gia xử lý sự cố, root cause analysis và cải thiện reliability của hệ thống. \nPhối hợp cùng AI Engineers và Product Teams để cải tiến AI platform và developer experience. \nYêu cầu\nTối thiểu 5 năm kinh nghiệm ở vị trí Platform Engineer / SRE / DevOps Engineer hoặc các vị trí tương đương. \nCó kinh nghiệm triển khai và vận hành Kubernetes production workloads. \nHiểu rõ Kubernetes ecosystem: networking, ingress, storage, autoscaling, observability, security. \nCó kinh nghiệm với AI/ML infrastructure, GPU workloads, LLM inference systems và các inference engines như vLLM, SGLang, Triton, TensorRT-LLM, llama.cpp hoặc các hệ thống tương đương. \nCó hiểu biết về LLM inference optimization techniques như quantization, batching, tensor/pipeline parallelism hoặc KV-cache optimization là lợi thế. \nCó kinh nghiệm với monitoring & observability stack như Prometheus, Grafana, Loki, ELK/OpenSearch, OpenTelemetry. \nCó kinh nghiệm với CI/CD, GitOps, Helm, Terraform, ArgoCD hoặc các công cụ tương đương. \nCó khả năng viết automation scripts bằng Python / Bash / Go. \nKiến thức tốt về Linux systems, networking, distributed systems và performance tuning. \nChủ động, có tư duy hệ thống và khả năng xử lý production incidents. \nCó tư duy AI-native, chủ động ứng dụng AI tools và automation để tối ưu vận hành và nâng cao hiệu quả engineering workflows. \nĐiểm cộngCó kinh nghiệm với LLMOps, RAG systems, AI agents hoặc agent orchestration frameworks. \nCó hiểu biết về inference orchestration, request routing hoặc disaggregated serving architectures là một lợi thế. \nCó kinh nghiệm với distributed systems như Kafka, ClickHouse, Elasticsearch/OpenSearch hoặc vector databases. \nCó kinh nghiệm triển khai AI platform trên môi trường on-premise hoặc private cloud là một lợi thế. \nCó chứng chỉ như CKA/CKAD/CKS, AWS/GCP/Azure Certified hoặc các chứng chỉ cloud/platform liên quan.","description_format":"text","description_chars":3371,"description_truncated":false,"requirements":{"experience_years_min":null,"management_years_min":null,"team_size_min":null,"manages_managers":false,"education":null,"security_clearance":false,"languages":[]},"benefits":[],"hiring_locations":[],"hiring_excludes":[],"relocation_offered":false,"industries":["Artificial Intelligence","Cloud Platforms (IaaS & PaaS)","Payment Processing & Gateways","Messaging Apps"],"lifecycle":[{"event":"open","at":"2026-09-26T20:42:01Z"}],"visa":[],"liveness":{"score":30,"band":"fade","label":"Fading","p_open":1,"p_active":0.659,"p_room":0.45,"age_days":29,"expected_fill_days":16,"reasons":["conf:1","velocity","win:tail"],"computed_at":"2026-10-26T05:57:25Z"},"pay":null,"html_url":"https://alion.io/job/vng-corporation-senior-platform-engineer-ai-inference-agent-platform-greennode","json_url":"https://alion.io/job/vng-corporation-senior-platform-engineer-ai-inference-agent-platform-greennode.json","meta":{"generated_at":"2026-10-27T04:53:49Z","cache_seconds":300,"methodology":"https://alion.io/methodology","terms":"https://alion.io/terms","contact":"https://alion.io/contact","api":"https://alion.io/developers","about":"Alion is a live layer of people, companies and AI agents: who they are, whether they are real and active right now, what they do and how to work with them, readable by people and by agents and paid per call.","catalog":"https://alion.io/catalog.json","usage":{"tier":"crawler_verified","counted_by":"address","units_charged":1,"used_today":4705,"day_limit":null,"remaining_today":null,"minute_limit":300,"resets_at":"2026-10-28T00:00:00Z"}},"offers":[{"id":"company.slices","title":"One company in depth, by slice","status":"live","price":{"credits":0.02,"usd":0.002,"plus_per_slice":{"credits":0.05,"usd":0.005}},"unit":"per company, plus each slice with data","note":"the employer in depth","call":{"mcp_tool":"get_company","arguments":{"id":215},"rest":"https://alion.io/mcp/rest/get_company?id=215"},"human":"https://alion.io/catalog?offer=company.slices&for=job%2Fvng-corporation-senior-platform-engineer-ai-inference-agent-platform-greennode"},{"id":"market.stats","title":"A market slice: pay, demand and time to fill","status":"live","price":{"credits":1,"usd":0.1},"unit":"per slice","note":"pay, demand and time to fill for this role and place","call":{"mcp_tool":"market_stats"},"human":"https://alion.io/catalog?offer=market.stats&for=job%2Fvng-corporation-senior-platform-engineer-ai-inference-agent-platform-greennode"},{"id":"job.search","title":"Open jobs by role, technology, place, pay and visa","status":"live","price":{"credits":0.02,"usd":0.002},"unit":"per posting in a list","note":"similar open postings","call":{"mcp_tool":"search_jobs"},"human":"https://alion.io/catalog?offer=job.search&for=job%2Fvng-corporation-senior-platform-engineer-ai-inference-agent-platform-greennode"},{"id":"company.verify","title":"Is this company real and active right now","status":"pilot","price":null,"unit":"per company","request":{"url":"https://alion.io/catalog/request","method":"POST","body":"{\"offer\": \"company.verify\", \"for\": \"job/vng-corporation-senior-platform-engineer-ai-inference-agent-platform-greennode\", \"note\": \"what you need it for\"}"},"human":"https://alion.io/catalog?offer=company.verify&for=job%2Fvng-corporation-senior-platform-engineer-ai-inference-agent-platform-greennode"}]}