Documentación / ML Studio

Deep learning y GPU

Diseña redes neuronales capa a capa, entrena tokenizers, diagnostica tu GPU, estima recursos, usa DDP con varias GPU y máquinas remotas.

En esta página

Para la mayoría de los problemas tabulares no necesitas GPU: entrenan en segundos o minutos en una CPU normal. Esta página es para cuando el modelo crece: redes neuronales, visión, audio, texto y modelos de lenguaje.

Diseñador de arquitectura

El Diseñador de arquitectura compone redes neuronales sin escribir el bucle de entrenamiento. El taller («Taller · nombre») muestra las Capas de la red; pulsa Añadir capa para sumar una y ajusta la Tasa de aprendizaje y el Tamaño de lote.

FamiliaPara qué sirve
MLPDatos tabulares y problemas pequeños.
CNNImágenes y señales con estructura local.
RNN, LSTM, GRUSecuencias y series temporales.
VAERepresentaciones comprimidas y generación.
GANGeneración con un generador y un discriminador.
DifusiónGeneración por eliminación de ruido.
ViTImágenes con atención (transformer de visión).
Transformer encoder / decoderTexto y secuencias largas.

El diseño se guarda en architecture/architecture.yaml, versionado con el proyecto. Por ejemplo, una CNN pequeña para imágenes de 32×32:

yaml
# architecture/architecture.yaml
kind: cnn
inputs: { shape: [3, 32, 32] }
outputs: { classes: 10 }
components:
  - { id: c1, type: conv2d, filters: 32, pool: max2 }
  - { id: c2, type: conv2d, filters: 64, pool: max2 }
  - { id: flat, type: flatten }
  - { id: h1, type: dense, units: 128, dropout: 0.2 }
  - { id: out, type: head, kind: classification }

Además de redes generales, ML Studio cubre imágenes (clasificación y detección), audio (clasificación y voz a texto), vídeo, grafos (GCN, GAT, GraphSAGE), refuerzo (DQN, PPO, REINFORCE), bandits y recomendadores (ALS, BPR).

Tokenizers

Para modelos de texto propios puedes entrenar un tokenizer con los textos del proyecto:

TipoNota
bpeByte-pair encoding clásico.
byte-bpeBPE sobre bytes: nunca hay tokens desconocidos.
wordpieceEl estilo de BERT.
unigramModelo probabilístico de subpalabras.

Validar mide la tasa de tokens desconocidos (unk), los tokens por palabra y el round-trip (que codificar y decodificar devuelva el mismo texto). Cada tokenizer se versiona con su sha256:

text
tokenizers/
└── soporte-es/
    ├── v1/   tokenizer.json  sha256:…
    └── v2/   tokenizer.json  sha256:…

Diagnóstico de GPU

Diagnóstico de GPU detecta qué aceleradores puede usar Python en tu equipo:

BackendHardware
CUDAGPU NVIDIA.
ROCmGPU AMD (Linux).
DirectMLGPU en Windows (DirectX 12).
MPSApple Silicon (macOS).
Intel XPUGPU Intel.

Probar CPU vs GPU ejecuta una prueba corta y te dice, por ejemplo, «La GPU es ×8 más rápida que la CPU». Si la diferencia es pequeña para tu modelo, la CPU basta.

En Supervisión › Recursos ves CPU, RAM, GPU y disco libre en vivo. Permitir a los agentes entrenar (2 h) da permiso a los agentes para lanzar entrenamientos durante las próximas dos horas.

Recursos estimados

Antes de entrenar, el plan estima la memoria necesaria y el tiempo:

ParteQué cuenta
PesosLos parámetros del modelo.
GradientesUno por parámetro entrenable.
OptimizadorEl estado de Adam y similares.
ActivacionesLo que se guarda en cada paso para el retroceso; crece con el tamaño de lote.

Al terminar compara lo estimado vs real. Si un trabajo no cabe, el plan te lo dice antes de empezar y sugiere opciones: lote más pequeño, menor precisión o QLoRA para modelos de lenguaje. Mientras espera, el trabajo queda en cola con «Espera VRAM: necesita X, hay Y».

Varias GPU: DDP

Con dos o más GPU CUDA en la misma máquina, Yuli puede entrenar en paralelo de datos con DDP (DistributedDataParallel): cada GPU procesa su parte de cada época y los gradientes se combinan.

yaml
# en la configuración del entrenamiento
training:
  distributed:
    mode: ddp
    devices: auto     # o un número de GPU

Solo se admite DDP con 2 o más GPU CUDA. Si no es posible (una sola GPU, sin torch.distributed), el entrenamiento sigue en un solo proceso y lo indica en las métricas. El paralelismo de tensores o de pipeline no está disponible.

Máquinas remotas

Si tu equipo no alcanza, puedes entrenar en una máquina remota por SSH o en la nube. Antes de lanzar, Yuli muestra un aviso de egreso:

«Los datos salen a host: se suben el dataset y el código que el trabajo lee. Al terminar, Yuli trae el modelo, verifica cada archivo y borra los datos allí (salvo que la máquina los conserve).»

  • Nada sale sin que lo confirmes.
  • Puedes fijar un tope de gasto para las máquinas en la nube.
  • En yuli-ml.yaml, hardware.prefer: remote indica que el proyecto prefiere entrenar fuera.

Ver Privacidad y sandbox de ML y Contenedores y remoto.