Infraestructura · 2026Infrastructure · 2026
AgredaGPU
AgredaGPU es el motor de memoria y transferencia de datos del ecosistema AgredaDB. Su documentación pública lo presenta como un sistema independiente para conectar VRAM, RAM, memoria CXL y almacenamiento NVMe dentro de un espacio de memoria unificado.
Arquitectura por niveles
- Nivel caliente en memoria GPU; nivel templado en RAM/CXL; nivel frío en SSD NVMe.
- Descubrimiento de topología y administración de dispositivos CXL como nodos NUMA.
- Transferencia mediante NVIDIA GPUDirect Storage, con alternativa basada en io_uring.
- Gestor UVM con direccionamiento virtual y promoción o descarga dinámica de tensores.
Integración y gestión de recursos
El interceptor conecta con PyTorch y contempla integración con TensorFlow. Un Trace Engine registra patrones de acceso para anticipar cargas; la clasificación Tensor DNA diferencia pesos, activaciones y estados del optimizador para decidir prioridades de expulsión. El diseño incluye snapshots copy-on-write y descifrado AES-GCM durante la carga.
Estado documentado
El README marca como completados el descubrimiento de hardware, el driver, la lógica UVM, el prefetcher y el interceptor. La validación «The Gauntlet» con entrenamiento Llama-3-70B aparece pendiente. La ficha describe ese diseño publicado y su estado, con licencia AGPL-3.0.
AgredaGPU is the AgredaDB ecosystem's memory and data-transfer engine. Its public documentation presents a standalone system unifying VRAM, RAM, CXL memory and NVMe storage.
Tiered architecture
- Hot GPU memory, warm RAM/CXL and cold NVMe tiers.
- Hardware-topology discovery and CXL devices managed as NUMA nodes.
- NVIDIA GPUDirect Storage with an io_uring fallback.
- UVM virtual addressing and dynamic tensor promotion/offloading.
Integration and resource management
The interceptor connects with PyTorch and the design includes TensorFlow integration. A Trace Engine learns access patterns for prefetching; Tensor DNA classifies weights, activations and optimizer states for eviction priority. Copy-on-write snapshots and AES-GCM decryption during loading are documented.
Documented status
The README marks hardware discovery, drivers, UVM, prefetching and the interceptor complete, while The Gauntlet Llama-3-70B training validation remains pending. Published under AGPL-3.0.
Explorar el proyecto: Explore the project: GitHub · agredagpu