LLM Ops Engineer Sr – GCP / Vertex AI

LLM Ops Engineer Sr – GCP / Vertex AI

En Global Task buscamos un LLM Ops Engineer Sr con foco en el desarrollo de agentes LLM y la operación de soluciones de IA generativa en Google Cloud Platform. Se sumará a un proyecto para una compañía líder del sector asegurador: una plataforma de IA generativa de alta escala que asiste a los equipos de análisis en la evaluación de reclamaciones médicas, llevando agentes y asistentes inteligentes desde el prototipo hasta producción con calidad, seguridad y costos bajo control.

Objetivo:

Diseñar, implementar y hacer evolucionar soluciones basadas en IA generativa y LLMs para automatizar y optimizar el análisis de reclamaciones, garantizando alta precisión, calidad de datos y desempeño en producción. El rol tendrá foco en agentes y flujos RAG sobre GCP, evaluación continua para mitigar alucinaciones, guardrails de seguridad y monitoreo de costos, latencia y disponibilidad.

Responsabilidades:

• Diseñar e implementar agentes LLM autónomos (patrones ReAct, arquitecturas multi-agente, memoria de contexto) con Vertex AI Agent Builder y modelos fundacionales.
• Orquestar herramientas mediante function calling e integrar APIs corporativas a partir de esquemas OpenAPI.
• Construir y optimizar pipelines de RAG: chunking contextual, embeddings, búsqueda híbrida y re-ranking con Vertex AI Search y Vector Search.
• Implementar pipelines de evaluación automatizada (LLM-as-a-judge, métricas de fidelidad, groundedness y relevancia) y gestionar el versionado de prompts.
• Configurar guardrails, filtros de seguridad de Vertex AI y controles de DLP para prevenir fugas de datos y mitigar ataques de prompt injection.
• Automatizar despliegues con CI/CD (Cloud Build, Vertex AI Pipelines) y administrar IAM y Service Accounts bajo el principio de mínimo privilegio.
• Monitorear consumo de tokens, costos, latencia y disponibilidad con Cloud Monitoring y Cloud Logging, definiendo alertas y tableros operativos.
• Trabajar junto a los equipos del cliente en dailies, revisiones técnicas y entregas incrementales.
• Documentar arquitectura, prompts, resultados de evaluación y runbooks de operación.

Requisitos:

• +4 años de experiencia en ingeniería de software, datos o ML, con al menos 1 año llevando soluciones basadas en LLM a producción (excluyente).
• Experiencia en arquitectura y desarrollo de agentes: flujos autónomos (ReAct, multi-agente, memoria de contexto), function calling e integración de APIs con OpenAPI.
• Dominio práctico del ecosistema GenAI de GCP: Vertex AI Agent Builder, Vertex AI Search, Vector Search y modelos fundacionales.
• Experiencia en RAG avanzado: chunking contextual, embeddings, re-ranking y búsqueda híbrida (semántica + léxica).
• Experiencia en LLMOps y evaluación: LLM-as-a-judge, métricas de fidelidad y groundedness, versionado de prompts y control de calidad continuo.
• Conocimientos de seguridad y gobernanza de IA: guardrails, filtros de seguridad de Vertex AI, DLP y mitigación de prompt injection.
• Experiencia en infraestructura cloud y observabilidad: CI/CD (Cloud Build o Vertex AI Pipelines), IAM / Service Accounts, Cloud Monitoring y Cloud Logging.
• Python para el desarrollo de agentes y servicios, y uso de los SDKs de Vertex AI.
• Manejo de Git, estrategias de branching y pipelines de CI/CD.
• Perfil autónomo, con capacidad para trabajar con acceso a recursos de producción y ambientes cloud.

Deseable (Nice to Have):

• Certificación de Google Cloud (Professional Machine Learning Engineer o Professional Cloud Architect).
• Frameworks de agentes: Agent Development Kit (ADK), LangChain / LangGraph o LlamaIndex.
• Protocolos de interoperabilidad de agentes (MCP, A2A).
• Cloud Run, GKE, BigQuery y Cloud Storage para servir agentes y datos.
• Infraestructura como código (Terraform).
• Experiencia en proyectos del sector asegurador, bancario o fintech, con datos sensibles y requisitos regulatorios.

Contratación:

• Modalidad: 100% remoto.
• Modalidad contractor
• Rate USD
• Contrato 3 meses iniciales, con posibilidad de renovación
• Horario: Lunes a viernes 9 a 18hs (horario CDMX)
• Feriados mexicanos