23 · Sistemas de memoria virtual completos: VAX/VMS y Linux
Apuntes propios sobre el capítulo 23 de OSTEP (Complete Virtual Memory Systems). Fuente: https://ostep.org
Este capítulo junta todas las piezas (traducción, TLB, tablas, swap, políticas) viendo dos sistemas reales: uno histórico ejemplar (VAX/VMS, años 70-80) y uno actual (Linux x86-64). La gracia está en ver cuánta ingeniería “extra” exige un sistema completo frente a los esquemas de pizarra.
23.1 VAX/VMS: elegancia sobre hardware imperfecto
Contexto: el VAX-11 debía correr VMS desde minis baratos a mainframes; el software debía compensar las carencias del hardware. Lecciones que dio:
- Espacio de direcciones híbrido: proceso partido en P0 (código+heap) y P1 (pila), con la mitad alta para el sistema — el kernel mapeado dentro del espacio de cada proceso (protegido por bits de privilegio). Esto facilita que el kernel acceda a datos de usuario y persiste hoy en casi todos los SO.
- Tablas de páginas en memoria virtual del kernel: las tablas de usuario viven en espacio paginable del sistema → pueden swapearse; menos presión de RAM a costa de walks más complejos.
- Página 0 inválida: el acceso a NULL falla porque la primera página se marca inválida a propósito — el origen del segfault por puntero nulo, pura convención de SO.
- Reemplazo sin bit de referencia: el VAX no tenía bit A. VMS inventó el FIFO segmentado por proceso: cada proceso tiene un máximo de marcos (RSS) gestionados FIFO, y las páginas expulsadas van a dos listas globales de segunda oportunidad (limpias/sucias) desde donde pueden rescatarse sin ir a disco — un “LRU global aproximado” hecho por software. Bonus: la lista de sucias permite clustering de escrituras.
- Demand zeroing y COW: la página nueva se pone a cero solo si se toca; la compartición copia solo si se escribe. La pereza (laziness) como principio de diseño — hacer el trabajo solo cuando es inevitable, y a veces nunca.
23.2 La memoria virtual de Linux (x86-64)
- Layout: mitad baja del espacio canónico para usuario, mitad alta para kernel — VMS otra vez. Dentro del kernel: la logical memory (mapeo directo 1:1 de la RAM, para estructuras del kernel y DMA) vs vmalloc (virtualmente contigua, físicamente dispersa).
- Tablas de 4/5 niveles, huge pages (THP y explícitas) por la cobertura de TLB (caps. 19-20).
- Page cache unificada: las páginas de fichero (mmap y read/write), las anónimas (heap/pila) y las del propio kernel comparten un mismo sistema de caching con listas activa/inactiva (2Q-like; hoy MGLRU) y writeback de sucias por umbral.
- Seguridad, la gran adición moderna: buena parte del diseño actual no la dictó el rendimiento sino los ataques —
- Buffer overflows → NX (pilas/heap no ejecutables);
- return-oriented programming (ROP: encadenar trocitos de código existente) → ASLR (aleatorizar pila/heap/librerías);
- Meltdown/Spectre (2018) → KPTI: separar (parcialmente) las tablas del kernel de las de usuario — deshaciendo la optimización de VMS de mapear el kernel en cada proceso. La historia de la MV moderna es en parte una carrera armamentística.
23.3 Moralejas del capítulo
- Un sistema real es la suma de decenas de mecanismos pequeños (lazy zeroing, clustering, listas de rescate) — no una política de pizarra.
- Las buenas ideas se heredan entre sistemas separados por 40 años (VMS → Linux: layout, COW, segunda oportunidad).
- El adagio de Lampson que cita el libro: las ideas se reusan; entender los clásicos es leer el presente con ventaja.
- La seguridad ya es un requisito de primer orden del subsistema de memoria, no un añadido.
Ampliación (no está en OSTEP)
- El capítulo cierra el círculo con la virtualización anidada: EPT/NPT son “otro VMS más abajo” — cada mecanismo de este capítulo (COW, demand paging, listas) existe duplicado en el hipervisor sobre la “RAM física” del guest (ver
../virtualizacion.md§5.5 y §6.4). - Frontera actual de Linux MM: folios (gestionar grupos de páginas como unidad, 5.16+), DAMON (monitorización de acceso para políticas), CXL memory tiering (RAM lejana conectada por bus — el “swap a memoria” hecho hardware).
- Para jugar:
pmap -x <pid>,smem,/proc/<pid>/smaps_rollup(RSS/PSS/USS: cuánta memoria es “de verdad” de un proceso con tanta compartición — pregunta sin respuesta única, herencia directa del COW).
Referencias
- OSTEP cap. 23.
- Levy & Lipman, Virtual Memory Management in the VAX/VMS Operating System, IEEE Computer 1982 — el paper que estructura la primera mitad.
- Gorman, Understanding the Linux Virtual Memory Manager (libre online) — anticuado pero aún la mejor visión de conjunto.
- Lipp et al., Meltdown y Kocher et al., Spectre Attacks, S&P/USENIX 2018-19.
Documentation/mm/del kernel Linux.