Back to jobs
Job Description
Estamos buscando um(a) LLMOps Engineer para sustentar, evoluir e testar a nossa infraestrutura de Inteligência Artificial. Sua missão será garantir que nossas plataformas de IA (Google Gemini Enterprise, Azure Foundry, AWS Agent Core), AI Gateway e Orquestração de Agentes operem com alta disponibilidade, segurança e eficiência de custos.
Mais do que rodar o que já existe, você será peça-chave na validação do futuro da nossa stack, apoiando na homologação de novas tecnologias, liderando testes e desenvolvendo soluções práticas.
Principais Responsabilidades
- Operação de Plataformas Agênticas: Gerenciar e otimizar a camada de agentes e proxies utilizando ferramentas como litellm, GCP Gemini, AWS Agent Core e Azure Foundry.
- Homologação e P&D: Avaliar e homologar novas ferramentas, modelos e tecnologias do ecossistema de GenAI, conduzindo testes de estresse, latência e qualidade, além de desenvolver MVPs/soluções internas.
- Gestão de Gateways e RAG: Configurar rate limiting, failover, load balancing e gerenciar a infraestrutura de bases vetoriais (OpenSearch, Vertex AI Vector Search, etc.).
- Observabilidade e FinOps: Implementar tracing e monitoramento em tempo real (LangFuse, Datadog AI, Grafana) focado em consumo de tokens, latência e otimização de custos de inferência.
- Automação (CI/CD para IA): Criar pipelines automatizados para deploys de IA, incluindo esteiras de avaliação de prompts (Evals) e testes de regressão de modelos.
Requisitos Técnicos (Hard Skills)
- Domínio em IA Agêntica e Gateways: Experiência prática com litellm, GCP Gemini, AWS Agent Core e/ou Azure Foundry/OpenAI.
- Multicloud e IaC: Sólidos conhecimentos nos serviços de GenAI da AWS, Azure ou GCP, além de provisionamento via Terraform.
- Programação: Proficiência em Python (obrigatório para automações e SDKs) .
- DevOps Fundamental: Experiência prática com containers e orquestração (Docker e Kubernetes).
- Arquitetura de Dados para IA: Compreensão de pipelines de RAG e bancos de dados vetoriais.
- Experiência com desenvolvimento de Código com IA (Github Copilot, Claude Code, Codex...)
Diferenciais
- Certificações de Nuvem focadas em IA/ML (AWS, Azure ou GCP).
- Experiência na implementação de LLMs locais (vLLM, Ollama) para otimização de custos.
- Conhecimento em segurança de IA (OWASP Top 10 para LLMs, PII masking)