Documentación / ML Studio

LLM Studio y RAG

Especializa modelos de lenguaje locales con SFT, DPO, ORPO, KTO, QLoRA y más, cuantízalos con compuerta de calidad, sírvelos en local y responde con tus documentos.

En esta página

LLM Studio (la pestaña Lenguaje) especializa modelos de lenguaje pequeños con tus ejemplos. Conocimiento indexa tus documentos para que un modelo responda con ellos (RAG). Ambos funcionan sin red y en tu equipo.

Bases locales

Un modelo base es un modelo ya entrenado que vas a adaptar. En Modelos base locales ves los que están en models/base del proyecto. Solo se cargan en formato safetensors, nunca con código remoto.

BaseUso típico
SmolLM2, Qwen2.5, Phi-3.5Generación y chat.
BERT multilingüeClasificación y extracción de entidades.
E5, MiniLMEmbeddings para búsqueda y RAG.

Descargar una base del catálogo necesita que el proyecto permita red (policies.allowNetwork: true) y tu aprobación. Crear base diminuta crea un modelo muy pequeño que entrena sin red en cualquier CPU, para probar el flujo.

text
models/
└── base/
    └── qwen2.5-0.5b-instruct/
        ├── config.json
        ├── model.safetensors
        └── tokenizer.json

Métodos de ajuste fino

MétodoDatosPara qué
SFT (LoRA)JSONL con messages o prompt/completionEnseñarle a responder con ejemplos. LoRA entrena solo un adaptador pequeño.
DPOprompt, chosen, rejectedAlinear con preferencias (respuesta buena frente a mala).
ORPOprompt, chosen, rejectedPreferencias sin modelo de referencia.
KTOprompt, completion, labelPreferencias sin emparejar.
IPOPares de preferenciaVariante de DPO más robusta al sobreajuste.
RLHFPreferencias humanasAprendizaje por refuerzo con retroalimentación humana.
RLAIFPreferencias de un modelo juezRefuerzo con retroalimentación de IA.
DestilaciónRespuestas de un modelo maestroPasar lo que sabe un modelo grande a uno pequeño.
QLoRAIgual que SFTBase cargada en 4 bits para entrenar modelos más grandes con poca VRAM.
Clasificador de textosCSV con texto y etiquetaUn codificador que clasifica textos.

Un ejemplo de datos para SFT:

json
{"messages": [{"role": "user", "content": "¿Cómo reinicio mi contraseña?"},
              {"role": "assistant", "content": "Entra en Cuenta › Seguridad y pulsa «Cambiar contraseña»."}]}

QLoRA solo funciona con GPU NVIDIA y CUDA. Ajustar un LLM pequeño con LoRA es posible en CPU, pero lento. Ver Deep learning y GPU.

Como en los modelos tabulares, hay curvas en vivo, pausa y reanudación. Al terminar puedes Fusionar adaptador para tener un único modelo.

Evaluación y guardrails

Al terminar un ajuste generativo, Yuli encola sola una evaluación: perplejidad (más baja es mejor), coincidencia exacta y F1 por tokens sobre un conjunto de preguntas, contaminación (si las preguntas estaban en el entrenamiento) y velocidad (Tokens/s, Latencia p95).

Los guardrails del manifiesto (llm.guardrails) bloquean patrones y enmascaran datos personales en cada generación, tanto en el panel Probar como en el servicio.

Cuantización

Cuantizar guarda los pesos con menos bits (int8, int4 o GGUF) para que el modelo ocupe menos y vaya más rápido. Yuli aplica una compuerta de calidad: compara el modelo cuantizado con el original en datos que no vio y nunca acepta una versión que pierda calidad fuera de la tolerancia. Si ninguna opción pasa, el trabajo falla con los números y no se crea una versión peor.

Motor de inferencia propio

Servicio local levanta un servidor propio de Yuli en 127.0.0.1, compatible con la API de OpenAI. El motor de inferencia de Yuli carga safetensors, adaptadores LoRA, versiones cuantizadas, GGUF y ONNX sin instalar nada aparte.

python
import os
from openai import OpenAI

# Solo cambias la base URL. La clave, si la usas, sale de una variable de entorno, nunca del código.
client = OpenAI(base_url="http://127.0.0.1:<puerto>/v1", api_key=os.environ["LOCAL_LLM_KEY"])
reply = client.chat.completions.create(
    model="soporte-es",
    messages=[{"role": "user", "content": "¿Dónde veo mi licencia?"}],
)
print(reply.choices[0].message.content)

Conocimiento (RAG)

En Conocimiento, Crear base de conocimiento indexa una carpeta del proyecto (con globs para elegir archivos) en fragmentos. Usa embeddings propios de Yuli, sin red, o un modelo local si lo indicas.

BúsquedaCómo encuentra
HíbridaCombina significado y palabras. Suele ser la mejor opción.
VectoresPor significado (embeddings).
Palabras (BM25)Por coincidencia de términos.

La búsqueda explica por qué subió cada fragmento. Calidad de la recuperación mide, sobre un conjunto de preguntas, si el fragmento correcto aparece entre los primeros (recall@k, MRR).

0 de 4 hechos

Mide la recuperación antes de culpar al modelo: si la búsqueda no encuentra el fragmento, ningún LLM puede responder bien.

Siguiente: Evaluación y modelos.