Tecdata Engineering logo

Senior AI Platform Engineer LLM Gateway

Hiring from
Spain
Work type
Remote
Posted
Is this job info correct?
Show job description

Senior AI Platform Engineer (LLM Gateway)

Modalidad: Teletrabajo · Jornada: Completa

El proyecto

BBVA implanta una plataforma corporativa de LLM Gateway: un punto de acceso común, seguro, gobernado y observable a modelos fundacionales para las aplicaciones y agentes de IA del Grupo. Buscamos a alguien que industrialice la solución, no un perfil de simple consumo de APIs de IA.

Qué harás

  • Implementar y evolucionar el LLM Gateway según la arquitectura y los estándares de BBVA.

  • Integrarlo con identidad y acceso corporativos (OAuth2, OIDC, JWT) y con la gestión de secretos.

  • Configurar políticas de acceso, rate limiting, cuotas, guardrails y trazabilidad.

  • Garantizar resiliencia y observabilidad (métricas, logs, trazas, alertas).

  • Medir consumo y costes por aplicación, proyecto y modelo.

  • Automatizar despliegues con Infraestructura como Código y CI/CD.

Qué buscamos

  • 6+ años en ingeniería de plataforma, cloud engineering, API management o integración de sistemas distribuidos.

  • 1+ año integrando AI Gateways.

  • Experiencia con AWS (identidad, secretos, networking), Python y Terraform, CloudFormation o CDK.

  • Seguridad de APIs: OAuth2, OIDC, JWT.

  • Experiencia en producción con APIs de IA generativa y alta concurrencia.

  • Observabilidad y operación de servicios (SLI/SLO).

Se valorará

Amazon Bedrock o AgentCore Gateway, enrutamiento multi-modelo, guardrails y protección frente a prompt injection, Kubernetes/EKS y experiencia en banca.


Similar jobs

Apply for this job