{"id":4581890,"url":"https://alion.io/job/delen-private-bank-qa-ai-evaluation-engineer","title":"QA & AI Evaluation Engineer","company":{"id":1934146,"name":"Delen Private Bank","domain":"delen.bank","url":"https://alion.io/company/delen-bank","size_band":null,"is_staffing_agency":false,"employer_type":"direct","is_intermediary":false,"listed_via":null,"ats_vendor":null,"truth_index":null},"role":"QA","role_family":"QA","seniority":null,"employment_type":"full_time","work_mode":"on_site","remote_scope":null,"remote_scope_basis":null,"remote_working_hours":null,"hiring_geo_confidence":"structured","locations":["Antwerp, Belgium"],"countries":["BE"],"hiring_countries":[],"hiring_countries_total":0,"salary":null,"salary_estimate":null,"experience_years_min":null,"visa_sponsorship":false,"relocation_package":false,"has_equity":false,"technologies":[{"name":"Agile","optional":false},{"name":"Azure","optional":false},{"name":"Azure DevOps","optional":false},{"name":"CI/CD","optional":false},{"name":"DeepEval","optional":false},{"name":"Embeddings","optional":false},{"name":"Function Calling","optional":false},{"name":"Kanban","optional":false},{"name":"Langfuse","optional":false},{"name":"LangSmith","optional":false},{"name":"LLM","optional":false},{"name":"OpenTelemetry","optional":false},{"name":"Postman","optional":false},{"name":"Prompt Engineering","optional":false},{"name":"Promptfoo","optional":false},{"name":"Pytest","optional":false},{"name":"RAG","optional":false},{"name":"Ragas","optional":false},{"name":"Red Teaming","optional":false},{"name":"Rest API","optional":false},{"name":"Scrum","optional":false},{"name":"SQL","optional":false}],"status":"live","first_seen_at":"2026-11-17T07:15:09Z","employer_posted_date":null,"last_verified_at":"2026-11-17T07:15:09Z","board_verified":false,"closed_at":null,"days_open":2,"trust":{"level":"not_scored","repost_count":null,"flags":[],"days_open":2},"description":"Rol en contextAls QA & AI Evaluation Engineer waak je over de kwaliteit, betrouwbaarheid en veiligheid van het AIHub Platform. Dit is het centrale, intern ontwikkelde AI-platform van Delen Private Bank, dat geïntegreerd is in de processen en systemen van de bank.\nAI-oplossingen gedragen zich niet altijd voorspelbaar. Daarom gaat kwaliteit hier verder dan alleen de vraag: “Werkt de functionaliteit zoals bedoeld?” Jij bepaalt hoe we meten of een AI-toepassing correct, consistent, veilig en bruikbaar is. Daarnaast zorg je ervoor dat dit ook zo blijft na wijzigingen aan modellen, prompts of data.\nJe werkt nauw samen met AI Engineers, developers, business analysts, domeinexperten en stakeholders. Daarbij combineer je sterke QA-expertise met analytisch inzicht in AI-systemen. Je vertaalt verwachtingen vanuit de business naar meetbare evaluatiecriteria, bouwt en onderhoudt evaluation datasets en integreert geautomatiseerde evaluaties in onze delivery pipelines.\n\nVerantwoordelijkhedenAnalyse & Evaluation DesignJe werkt samen met business analysts en domeinexperten om verwachtingen rond het gedrag van AI te vertalen naar meetbare acceptatie- en evaluatiecriteria.\nJe definieert evaluation datasets (golden datasets) die realistische gebruiksscenario’s weerspiegelen, inclusief edge cases en failure scenarios.\nJe bepaalt evaluation rules, zowel:deterministisch: bijvoorbeeld format validation, schema checks, exacte of gestructureerde matches, verplichte bronvermelding en correcte tool calls;\nnon-deterministisch: bijvoorbeeld LLM-as-a-judge, semantic similarity, groundedness en relevance.\n\nJe kalibreert LLM-as-a-judge evaluations ten opzichte van menselijke beoordelingen, zodat geautomatiseerde scores betrouwbaar blijven.\nJe helpt mee de evaluation strategy, coverage en quality thresholds te bepalen, zowel per use case als voor het platform als geheel.\n\nTest Execution & ValidationJe voert functionele en non-functionele tests uit op verschillende platformcomponenten, zoals API’s, integraties, dataverwerking en user interfaces.\nJe evalueert RAG applications op retrieval quality, groundedness en correcte bronvermelding.\nJe test agentic flows, waaronder correcte tool selection, parameters, multi-turn behaviour en error handling.\nJe voert adversarial testing en red teaming uit, bijvoorbeeld rond prompt injection, jailbreaks, het lekken van vertrouwelijke of persoonlijke gegevens en ongewenste of misleidende output.\nJe valideert of guardrails en content filters correct werken.\nJe registreert bugs in Azure DevOps, volgt de oplossing ervan actief op en valideert opgeloste issues.\nJe faciliteert UAT-sessies met eindgebruikers en verzamelt gestructureerde feedback.\n\nAutomation & Continuous ImprovementJe monitort regression bij model upgrades en prompt changes en vergelijkt verschillende versies op een objectieve manier.\nJe onderhoudt evaluation datasets op basis van online evaluations en feedback uit productie. Onvoorziene edge cases zet je om in permanente test cases binnen de standaard eval sets.\nJe volgt de kwaliteit in productie op via monitoring & tracing, bijvoorbeeld aan de hand van quality scores, drift en gebruikersfeedback, en signaleert achteruitgang tijdig.\nJe gebruikt zelf AI to\n\nProfiel en competentiesJe hebt een uitstekende kennis van het Nederlands en een goede kennis van het Engels. Kennis van het Frans is een plus, onder andere met het oog op meertalige evaluaties.\nJe hebt ervaring als QA Engineer binnen een agile IT-omgeving en beschikt over sterke analytische vaardigheden.\nJe hebt hands-on ervaring met het testen of evalueren van LLM applications, of je kunt aantonen dat je binnen dit domein al een sterke maturiteit hebt opgebouwd.\nJe begrijpt de uitdagingen van non-deterministic systems en weet hierover op een betrouwbare en statistisch onderbouwde manier te rapporteren.\nJe hebt een kritische en creatieve “break it”-mindset waarmee je actief op zoek gaat naar edge cases en abuse scenarios.\nJe werkt nauwkeurig, gestructureerd en kwaliteitsgericht.\nJe bent een echte teamplayer met uitstekende communicatieve vaardigheden.\n\nBasiskennis van of ervaring metPython voor test automation en evaluation scripts, bijvoorbeeld pytest;\nLLM evaluation frameworks, zoals LangSmith, Azure AI Foundry Evaluations, promptfoo, DeepEval, Ragas en Langfuse;\nconcepten zoals RAG, embeddings, prompt engineering, agents en tool calling;\nAPI testing, bijvoorbeeld met Postman, REST en OpenAPI;\nAzure DevOps voor test management en CI/CD;\nSQL / JSON voor het valideren van data en interfaces;\nobservability tooling, zoals OpenTelemetry en Application Insights;\nervaring met of affiniteit voor de (private) banking sector;\nAgile ways of working, zoals Scrum en Kanban.","description_format":"text","description_chars":4714,"description_truncated":false,"requirements":{"experience_years_min":null,"management_years_min":null,"team_size_min":null,"manages_managers":false,"education":null,"security_clearance":false,"languages":[]},"benefits":[],"hiring_locations":[],"hiring_excludes":[],"relocation_offered":false,"industries":[],"lifecycle":[{"event":"open","at":"2026-11-19T05:14:40Z"}],"visa":[],"liveness":{"score":86,"band":"hot","label":"Hiring now","p_open":1,"p_active":0.86,"p_room":1,"age_days":2,"expected_fill_days":26,"reasons":["seen:2","win:early"],"computed_at":"2026-11-19T09:08:57Z"},"pay":null,"html_url":"https://alion.io/job/delen-private-bank-qa-ai-evaluation-engineer","json_url":"https://alion.io/job/delen-private-bank-qa-ai-evaluation-engineer.json","meta":{"generated_at":"2026-11-19T23:02:03Z","cache_seconds":300,"methodology":"https://alion.io/methodology","terms":"https://alion.io/terms","contact":"https://alion.io/contact","api":"https://alion.io/developers","about":"Alion is a live layer of people, companies and AI agents: who they are, whether they are real and active right now, what they do and how to work with them, readable by people and by agents and paid per call.","catalog":"https://alion.io/catalog.json","usage":{"tier":"crawler_verified","counted_by":"address","units_charged":1,"used_today":133,"day_limit":null,"remaining_today":null,"minute_limit":300,"resets_at":"2026-11-20T00:00:00Z"}},"offers":[{"id":"company.slices","title":"One company in depth, by slice","status":"live","price":{"credits":0.1,"usd":0.01,"plus_per_slice":{"credits":0.05,"usd":0.005}},"unit":"per company, plus each slice with data","note":"the employer in depth","call":{"mcp_tool":"get_company","arguments":{"id":1934146},"rest":"https://alion.io/mcp/rest/get_company?id=1934146"},"human":"https://alion.io/catalog?offer=company.slices&for=job%2Fdelen-private-bank-qa-ai-evaluation-engineer"},{"id":"market.stats","title":"A market slice: pay, demand and time to fill","status":"free","price":{"credits":0,"usd":0},"unit":"per slice","note":"pay, demand and time to fill for this role and place","call":{"mcp_tool":"market_stats"},"human":"https://alion.io/catalog?offer=market.stats&for=job%2Fdelen-private-bank-qa-ai-evaluation-engineer"},{"id":"job.search","title":"Open jobs by role, technology, place, pay and visa","status":"live","price":{"credits":0.1,"usd":0.01},"unit":"per posting in a list","note":"similar open postings","call":{"mcp_tool":"search_jobs"},"human":"https://alion.io/catalog?offer=job.search&for=job%2Fdelen-private-bank-qa-ai-evaluation-engineer"},{"id":"company.verify","title":"Is this company real and active right now","status":"pilot","price":null,"unit":"per company","request":{"url":"https://alion.io/catalog/request","method":"POST","body":"{\"offer\": \"company.verify\", \"for\": \"job/delen-private-bank-qa-ai-evaluation-engineer\", \"note\": \"what you need it for\"}"},"human":"https://alion.io/catalog?offer=company.verify&for=job%2Fdelen-private-bank-qa-ai-evaluation-engineer"}],"agent":{"mcp":"https://alion.io/mcp/jobs","mcp_open":"https://alion.io/mcp/open","next":[{"tool":"get_job","arguments":{"id":4581890}},{"tool":"search_jobs","arguments":{"company":"delen.bank","detail":"compact"}},{"tool":"match_people","arguments":{"job_id":4581890},"note":"people open to offers who fit this vacancy"}],"note":"The same data through MCP tools: https://alion.io/mcp/open needs no sign-in (compact searches, postings, people); https://alion.io/mcp with an Alion account has everything. Docs: https://alion.io/developers"}}