UD2 · Despliegue de la infraestructura

Objetivos de la unidad

Al finalizar esta unidad el alumno sera capaz de:

• Montar y aprovisionar infraestructura propia (on-premise) para sistemas de IA
• Configurar el sistema operativo, bootloader, firmware, controladores y entornos de ejecucion
• Provisionar y configurar infraestructura como servicio (IaaS) en entornos cloud
• Verificar el funcionamiento y rendimiento de la infraestructura antes de usarla
• Documentar todas las intervenciones con el nivel de detalle requerido

Resultado de aprendizaje: Despliega sistemas de IA en desarrollo o produccion, en infraestructura como servicio o instalaciones propias.

Panorama: modalidades de infraestructura

Comparativa on-premise vs. IaaS vs. hibrida

Infraestructura propia: fase 1 — montaje fisico

Proceso de aprovisionamiento fisico de un servidor de IA

1. Recepcion y verificacion: comprobar que el hardware recibido coincide con el pedido (modelo, serie, componentes)
2. Montaje en rack: instalacion en rack con gestion de cableado estructurado (cable management)
3. Conexion de red: cableado de red de datos, red de gestion (IPMI/iDRAC/iLO) y, si procede, red de alta velocidad (InfiniBand)
4. Conexion de almacenamiento: SAN, NAS o almacenamiento local (NVMe U.2)
5. Encendido inicial: verificacion del POST y acceso al firmware (BIOS/UEFI)
6. Actualizacion de firmware: firmware del servidor, de la GPU y de los controladores de red antes de instalar el SO

El firmware debe actualizarse antes de instalar el SO para evitar incompatibilidades con los controladores.

Infraestructura propia: fase 2 — sistema operativo

Instalacion del SO mediante imagen base auditada

En entornos productivos no se instala el SO de forma interactiva, sino mediante imágenes auditadas y preconfiguradas (golden images):

# Ejemplo: arranque por PXE con una imagen base Ubuntu 22.04 LTS minimal
# El servidor arranca desde la red y recibe la imagen desde el servidor PXE
# La imagen incluye: SO minimal + agente de gestion + configuracion de red base

# Verificar integridad de la imagen antes de instalar
sha256sum ubuntu-22.04.4-server-amd64.iso
# Comparar con el hash publicado en https://releases.ubuntu.com

Configuracion del bootloader (GRUB2)

• Configurar el orden de arranque correcto
• Habilitar arranque seguro (Secure Boot) si es requerido por la politica de seguridad
• Configurar parametros de kernel para alto rendimiento: transparent_hugepage=always, isolcpus para GPUs dedicadas

Infraestructura propia: fase 3 — controladores y dependencias

Instalacion de controladores GPU (ejemplo NVIDIA)

# 1. Deshabilitar el controlador nouveau (abierto, incompatible con CUDA)
echo "blacklist nouveau" | sudo tee /etc/modprobe.d/blacklist-nouveau.conf
sudo update-initramfs -u && sudo reboot

# 2. Instalar el controlador NVIDIA oficial
sudo apt install nvidia-driver-535  # version LTS para produccion

# 3. Instalar CUDA Toolkit (version compatible con el modelo a desplegar)
sudo apt install cuda-toolkit-12-3

# 4. Verificar instalacion
nvidia-smi
nvcc --version

Entornos de ejecucion aislados

Para garantizar reproducibilidad, los entornos de ejecucion se aíslan:

Infraestructura propia: validacion de rendimiento

Benchmarks antes de poner en produccion

# Ejemplo: benchmark de almacenamiento con fio
fio --name=randread --rw=randread --bs=4k --ioengine=libaio \
    --iodepth=64 --runtime=60 --numjobs=4 --filename=/dev/nvme0n1 \
    --group_reporting

Infraestructura como servicio: vision general

Recursos a provisionar en IaaS para un sistema de IA

En IaaS, el aprovisionamiento se realiza mediante Infraestructura como Codigo (IaC) para garantizar reproducibilidad y control de versiones.

Infraestructura como servicio: IaC con Terraform

Ejemplo: instancia de inferencia en AWS con Terraform

resource "aws_instance" "inferencia_ia" {
  ami           = "ami-0a1b2c3d4e5f67890"  # Ubuntu 22.04 + CUDA 12.3
  instance_type = "g4dn.xlarge"            # 1x NVIDIA T4, 16 GB VRAM
  subnet_id     = aws_subnet.privada.id

  root_block_device {
    volume_type = "gp3"
    volume_size = 100
    iops        = 3000
    throughput  = 125
  }

  tags = {
    Name        = "inferencia-modelo-fraude-v3"
    Entorno     = "produccion"
    Proyecto    = "deteccion-fraude"
    Responsable = "equipo-mlops"
  }
}

Infraestructura como servicio: red y seguridad

Configuracion de red en IaaS

# Grupo de seguridad restrictivo en Terraform
resource "aws_security_group" "inferencia" {
  ingress {
    from_port       = 8080
    to_port         = 8080
    protocol        = "tcp"
    security_groups = [aws_security_group.balanceador.id]
  }
  egress { from_port = 0; to_port = 0; protocol = "-1"; cidr_blocks = ["0.0.0.0/0"] }
}

Infraestructura como servicio: autoescalado

Configuracion de autoescalado para cargas variables

El autoescalado permite adaptarse a picos de demanda sin sobredimensionar la infraestructura permanente.

Para modelos con arranque lento (carga del modelo en VRAM), se recomienda usar escalado predictivo en lugar de reactivo, o mantener un minimo de instancias "calientes".

Infraestructura como servicio: persistencia y copias de seguridad

Estrategia de persistencia para datos del sistema de IA

Prueba de restauracion

Una copia de seguridad que no se ha restaurado nunca no es una copia de seguridad: es una esperanza. Programar pruebas de restauracion periodicas.

Documentacion de intervenciones

Que registrar en cada intervencion de infraestructura

La documentacion de intervenciones es un requisito tanto operativo como normativo. Debe incluir:

Actividad practica: despliegue de infraestructura con Terraform

Escenario

Un equipo debe desplegar la infraestructura para un servicio de inferencia de un modelo de clasificacion de imagenes. El modelo requiere 8 GB de VRAM, alta disponibilidad (al menos 2 instancias activas) y latencia < 200 ms en P99.

Tarea

Disenar y documentar (no ejecutar en un entorno real) la infraestructura IaaS necesaria:

1. Identificar el tipo de instancia adecuado en al menos 2 proveedores cloud
2. Definir la configuracion de red (VPC, subredes, grupos de seguridad)
3. Establecer la politica de autoescalado con metricas y umbrales justificados
4. Definir la estrategia de persistencia y backup para el artefacto del modelo
5. Redactar una ficha de intervencion completa para el aprovisionamiento

Entregable

Documento con diagrama de arquitectura (descripcion textual), codigo Terraform esquematico y ficha de intervencion.

Puntos clave de la UD2

• El aprovisionamiento on-premise sigue un orden riguroso: fisico → firmware → SO → controladores → dependencias. Invertir el orden causa problemas de compatibilidad dificiles de diagnosticar
• Las golden images garantizan que todos los servidores parten del mismo estado conocido y auditado
• En IaaS, la infraestructura como codigo (Terraform, CloudFormation) es imprescindible para la reproducibilidad y el control de cambios
• El autoescalado debe configurarse con margenes amplios: el tiempo de inicio de una instancia con un modelo grande puede ser de varios minutos
• Ninguna intervencion sobre infraestructura se realiza sin registro: fecha, responsable, resumen, versiones y logs adjuntos
• Las pruebas de restauracion de backups son tan importantes como las propias copias de seguridad

Criterios de evaluacion — UD2

← Volver a MP02

Navegación

← UD1 · Preparación del despliegue  ·  Volver al módulo  ·  UD3 · Instalación de aplicaciones d… →