UD1 · Preparación del despliegue

Objetivos de la unidad

Al finalizar esta unidad el alumno será capaz de:

• Interpretar el Plan de aprovisionamiento e identificar los componentes necesarios para el despliegue
• Verificar disponibilidad, versiones, licencias y compatibilidad de cada componente
• Diseñar y configurar sistemas de monitorización y alarmas previos al despliegue
• Establecer mecanismos de trazabilidad que garanticen la reproducibilidad del despliegue
• Documentar el estado inicial del entorno antes de cualquier intervención

Resultado de aprendizaje: Prepara el despliegue de la infraestructura interpretando las especificaciones para mantener la integridad y continuidad del servicio.

Punto de partida: el Plan de aprovisionamiento

Qué es y para qué sirve

El Plan de aprovisionamiento es el documento de referencia que describe todos los componentes necesarios para desplegar el sistema de IA: hardware, software, modelos, dependencias y licencias.

Fuentes de información complementarias

Determinación de componentes: hardware

Componentes hardware típicos en un despliegue de IA

Matriz de compatibilidad previa

Antes de iniciar el despliegue se elabora una matriz de compatibilidad que cruza versiones de firmware, SO, controladores y dependencias del modelo para detectar incompatibilidades conocidas.

Determinación de componentes: software y licencias

Capas de software a inventariar

Sistema operativo base         →  Ubuntu 22.04 LTS / RHEL 9
Controladores de hardware      →  NVIDIA CUDA 12.x, libGL, controladores NIC
Entorno de ejecución           →  Python 3.11, virtualenv / conda
Framework de inferencia        →  TensorFlow Serving / TorchServe / Triton
Dependencias de la aplicación  →  requirements.txt o pyproject.toml versionados
Modelo artefacto               →  Versión específica del registro de modelos

Gestión de licencias

Verificación de disponibilidad y compatibilidad

Proceso de verificación paso a paso

1. Contrastar inventario vs. Plan de aprovisionamiento: comprobar que cada componente existe o puede adquirirse en el plazo requerido
2. Comprobar versiones exactas: usar hashes SHA256 para artefactos de software y modelos
3. Validar compatibilidad entre capas: consultar matrices de compatibilidad oficiales (p. ej., NVIDIA CUDA Compatibility Guide)
4. Verificar licencias activas: revisar fecha de caducidad y número de instancias permitidas
5. Registrar resultado: aprobar o emitir una solicitud de aprovisionamiento adicional

Ejemplo: verificación de compatibilidad CUDA-PyTorch

# Verificar versión de CUDA disponible
nvidia-smi | grep "CUDA Version"
# Verificar que PyTorch fue compilado con esa versión
python -c "import torch; print(torch.version.cuda)"

Ensayos previos: factores del componente

Qué se comprueba en un entorno de pruebas

Los ensayos previos al despliegue real tienen como objetivo identificar fallos antes de que afecten al entorno productivo.

Factores del componente que pueden causar fallos:

Ensayos previos: factores del entorno de pruebas

Diferencias entre el entorno de pruebas y el entorno productivo

Una causa frecuente de fallos en producción es que el entorno de pruebas no es suficientemente representativo.

Principio: el entorno de pruebas debe ser lo más similar posible al entorno productivo en hardware, red, datos y servicios concurrentes.

Configuración de monitorización y alarmas: conceptos

Por qué configurar la monitorización antes del despliegue

La monitorización debe estar activa antes de que el sistema entre en producción, no después. Esto permite:

• Establecer una línea base de comportamiento normal
• Detectar anomalías desde el primer momento
• Disponer de datos históricos desde el inicio para análisis de tendencias

Arquitectura típica de monitorización MLOps

Componente ─── Prometheus (scraping métricas)
                    │
               Grafana (visualización + alertas)
                    │
               Alertmanager ─── PagerDuty / Slack / correo

Configuración de alarmas: umbrales y protocolos

Definición de umbrales de alarma

Protocolo de actuación y comunicación

Cada alarma debe tener asociado un runbook que especifica: responsable de turno, pasos de diagnóstico, acciones correctivas y canal de comunicación (Slack, PagerDuty, correo).

Trazabilidad: repositorios de modelos y características

Componentes de un sistema de trazabilidad MLOps

La trazabilidad garantiza que cualquier predicción producida en producción pueda relacionarse con exactitud con la versión del modelo, los datos y el código que la generaron.

Trazabilidad: versionado y sistemas de trazado distribuido

Estrategia de versionado para reproducibilidad

# Ejemplo: metadatos mínimos de un artefacto de modelo registrado
model:
  name: "clasificador-fraude-v3"
  version: "3.2.1"
  artifact_uri: "s3://ml-registry/models/clasificador-fraude/3.2.1/model.pkl"
  sha256: "a3f9c1..."
  training_data_version: "dataset-fraude-2024Q4-v2"
  feature_set_version: "features-transacciones-v5"
  git_commit: "e7a2bc4"
  training_run_id: "mlflow://runs/9f3a1d..."

Trazado distribuido en inferencia

Para sistemas de IA en producción, el trazado distribuido permite seguir cada solicitud a través de todos los microservicios:

• OpenTelemetry: estándar abierto de instrumentación
• Jaeger / Zipkin: backends de almacenamiento y visualización de trazas
• Cada petición recibe un trace_id único que acompaña todos los logs

Actividad practica: checklist de preparacion del despliegue

Escenario

Un equipo MLOps debe preparar el despliegue de un modelo de detección de anomalías en transacciones bancarias. El modelo fue entrenado con PyTorch 2.1, requiere GPU NVIDIA con 16 GB de VRAM, y se desplegara como API REST con TorchServe.

Tarea

Elaborar un checklist de preparacion con al menos 5 categorias, siguiendo el proceso visto en la unidad. Para cada elemento del checklist, indicar:

1. El aspecto a verificar
2. Como verificarlo (comando, herramienta o procedimiento)
3. Criterio de aceptacion (valor esperado o condicion)
4. Responsable

Entregable

Checklist en formato tabla. Incluir al menos: hardware, software/dependencias, licencias, trazabilidad y monitorización.

Puntos clave de la UD1

• El Plan de aprovisionamiento es el documento de referencia: no se inicia ningun despliegue sin haberlo leido y verificado
• La verificacion de componentes abarca disponibilidad, version exacta, compatibilidad entre capas y estado de las licencias
• Los ensayos previos deben reproducir las condiciones del entorno productivo; las diferencias no controladas entre entornos son la principal fuente de fallos inesperados
• La monitorización y las alarmas se configuran antes del despliegue, no después
• La trazabilidad se construye sobre cuatro pilares: versionado del modelo, de los datos, del codigo y de los parametros; todos deben poder relacionarse entre si de forma univoca
• Un trace_id por peticion en produccion permite reconstruir exactamente que modelo, con que datos y bajo que configuracion genero cada prediccion

Criterios de evaluacion — UD1

← Volver a MP02

Navegación

Volver al módulo  ·  UD2 · Despliegue de la infraestruct… →