Documentación / ML Studio
LLM Studio y RAG
Especializa modelos de lenguaje locales con SFT, DPO, ORPO, KTO, QLoRA y más, cuantízalos con compuerta de calidad, sírvelos en local y responde con tus documentos.
En esta página
LLM Studio (la pestaña Lenguaje) especializa modelos de lenguaje pequeños con tus ejemplos. Conocimiento indexa tus documentos para que un modelo responda con ellos (RAG). Ambos funcionan sin red y en tu equipo.
Bases locales
Un modelo base es un modelo ya entrenado que vas a adaptar. En Modelos base locales ves los que están en
models/base del proyecto. Solo se cargan en formato safetensors, nunca con código remoto.
| Base | Uso típico |
|---|---|
| SmolLM2, Qwen2.5, Phi-3.5 | Generación y chat. |
| BERT multilingüe | Clasificación y extracción de entidades. |
| E5, MiniLM | Embeddings para búsqueda y RAG. |
Descargar una base del catálogo necesita que el proyecto permita red (policies.allowNetwork: true) y tu
aprobación. Crear base diminuta crea un modelo muy pequeño que entrena sin red en cualquier CPU, para probar el
flujo.
models/
└── base/
└── qwen2.5-0.5b-instruct/
├── config.json
├── model.safetensors
└── tokenizer.jsonMétodos de ajuste fino
| Método | Datos | Para qué |
|---|---|---|
| SFT (LoRA) | JSONL con messages o prompt/completion | Enseñarle a responder con ejemplos. LoRA entrena solo un adaptador pequeño. |
| DPO | prompt, chosen, rejected | Alinear con preferencias (respuesta buena frente a mala). |
| ORPO | prompt, chosen, rejected | Preferencias sin modelo de referencia. |
| KTO | prompt, completion, label | Preferencias sin emparejar. |
| IPO | Pares de preferencia | Variante de DPO más robusta al sobreajuste. |
| RLHF | Preferencias humanas | Aprendizaje por refuerzo con retroalimentación humana. |
| RLAIF | Preferencias de un modelo juez | Refuerzo con retroalimentación de IA. |
| Destilación | Respuestas de un modelo maestro | Pasar lo que sabe un modelo grande a uno pequeño. |
| QLoRA | Igual que SFT | Base cargada en 4 bits para entrenar modelos más grandes con poca VRAM. |
| Clasificador de textos | CSV con texto y etiqueta | Un codificador que clasifica textos. |
Un ejemplo de datos para SFT:
{"messages": [{"role": "user", "content": "¿Cómo reinicio mi contraseña?"},
{"role": "assistant", "content": "Entra en Cuenta › Seguridad y pulsa «Cambiar contraseña»."}]}QLoRA solo funciona con GPU NVIDIA y CUDA. Ajustar un LLM pequeño con LoRA es posible en CPU, pero lento. Ver Deep learning y GPU.
Como en los modelos tabulares, hay curvas en vivo, pausa y reanudación. Al terminar puedes Fusionar adaptador para tener un único modelo.
Evaluación y guardrails
Al terminar un ajuste generativo, Yuli encola sola una evaluación: perplejidad (más baja es mejor), coincidencia exacta y F1 por tokens sobre un conjunto de preguntas, contaminación (si las preguntas estaban en el entrenamiento) y velocidad (Tokens/s, Latencia p95).
Los guardrails del manifiesto (llm.guardrails) bloquean patrones y enmascaran datos personales en cada
generación, tanto en el panel Probar como en el servicio.
Cuantización
Cuantizar guarda los pesos con menos bits (int8, int4 o GGUF) para que el modelo ocupe menos y vaya más rápido. Yuli aplica una compuerta de calidad: compara el modelo cuantizado con el original en datos que no vio y nunca acepta una versión que pierda calidad fuera de la tolerancia. Si ninguna opción pasa, el trabajo falla con los números y no se crea una versión peor.
Motor de inferencia propio
Servicio local levanta un servidor propio de Yuli en 127.0.0.1, compatible con la API de OpenAI. El motor de
inferencia de Yuli carga safetensors, adaptadores LoRA, versiones cuantizadas, GGUF y ONNX sin
instalar nada aparte.
import os
from openai import OpenAI
# Solo cambias la base URL. La clave, si la usas, sale de una variable de entorno, nunca del código.
client = OpenAI(base_url="http://127.0.0.1:<puerto>/v1", api_key=os.environ["LOCAL_LLM_KEY"])
reply = client.chat.completions.create(
model="soporte-es",
messages=[{"role": "user", "content": "¿Dónde veo mi licencia?"}],
)
print(reply.choices[0].message.content)Conocimiento (RAG)
En Conocimiento, Crear base de conocimiento indexa una carpeta del proyecto (con globs para elegir archivos) en fragmentos. Usa embeddings propios de Yuli, sin red, o un modelo local si lo indicas.
| Búsqueda | Cómo encuentra |
|---|---|
| Híbrida | Combina significado y palabras. Suele ser la mejor opción. |
| Vectores | Por significado (embeddings). |
| Palabras (BM25) | Por coincidencia de términos. |
La búsqueda explica por qué subió cada fragmento. Calidad de la recuperación mide, sobre un conjunto de preguntas, si el fragmento correcto aparece entre los primeros (recall@k, MRR).
Mide la recuperación antes de culpar al modelo: si la búsqueda no encuentra el fragmento, ningún LLM puede responder bien.
Siguiente: Evaluación y modelos.