Senior Backend IA Developer, Brazil

Estamos em busca de uma pessoa Backend Developer para atuar na evolução dos componentes core da AI Platform do CI&T Flow, com foco na orquestração de modelos, integração com provedores de LLM e construção de uma plataforma multi-cloud, observável, resiliente e escalável.

Essa pessoa será referência técnica na evolução da plataforma, atuando no desenvolvimento de novas funcionalidades, decisões arquiteturais e resolução de problemas complexos. Buscamos alguém com sólida experiência em engenharia de software e sistemas distribuídos, além de conhecimento em Inteligência Artificial Generativa e arquiteturas baseadas em LLMs.

Responsabilidades

Desenvolver e evoluir os componentes core da AI Platform, incluindo governança de modelos, provedores, tenants e políticas de utilização.

Projetar e evoluir mecanismos de roteamento, load balancing, fallback e controle de consumo e custos de LLMs.

Desenvolver integrações com LiteLLM e diferentes provedores de modelos em ambientes de cloud pública.

Evoluir APIs, serviços e mecanismos de observabilidade, garantindo performance, disponibilidade, escalabilidade e confiabilidade da plataforma.

Investigar incidentes e problemas complexos em produção, identificando causas raiz e propondo melhorias estruturais.

Participar das decisões arquiteturais, avaliando trade-offs, riscos técnicos e impactos nos diferentes produtos consumidores da plataforma.

Atuar como referência técnica para o time, contribuindo para padrões de engenharia, boas práticas e evolução técnica das pessoas desenvolvedoras.

Colaborar com os times consumidores da plataforma no refinamento de soluções e resolução de problemas de integração.

Requisitos para este desafio

Experiência sólida em desenvolvimento backend com Kotlin/Java e/ou Node.js.

Experiência com arquitetura e desenvolvimento de sistemas distribuídos, APIs e serviços de alta disponibilidade.

Experiência com cloud pública, Docker, Kubernetes e pipelines de CI/CD.

Conhecimento em LLMs e arquiteturas de aplicações baseadas em Inteligência Artificial Generativa.

Experiência com integração de modelos utilizando ao menos um dos principais provedores de LLM em cloud, como Azure OpenAI, Azure AI Foundry, AWS Bedrock ou GCP Vertex AI.

Conhecimento de mecanismos relacionados à operação de LLMs, como routing, fallback, streaming e gerenciamento de consumo.

Experiência com observabilidade e troubleshooting de sistemas distribuídos utilizando métricas, logs e traces.

Conhecimento de PostgreSQL e/ou MongoDB.

Conhecimento dos principais conceitos relacionados a RAG, AI Agents e Agentic AI.

Experiência em decisões técnicas e arquiteturais, atuando como referência técnica em ambientes de alta complexidade.

Diferenciais

Experiência prática com LiteLLM e arquiteturas de AI Gateway, LLM Gateway ou Model Gateway.

Experiência com múltiplos provedores de LLM em ambientes de produção.

Conhecimento de MCP (Model Context Protocol).

Experiência com LangChain, LangGraph, Semantic Kernel ou frameworks similares.

Conhecimento de LLM Observability, utilizando ferramentas como Langfuse, OpenTelemetry, Prometheus ou Grafana.

Conhecimento de vector databases, busca semântica e arquiteturas RAG.

Experiência com guardrails, segurança e controle de acesso em aplicações de IA.

Experiência com Helm, GitOps ou desenvolvimento de ferramentas e agents para AI Coding.