Documentație / ML Studio

LLM Studio și RAG

Specializează modele de limbaj locale cu SFT, DPO, ORPO, KTO, QLoRA și altele, cuantizează-le cu poartă de calitate, servește-le local și răspunde pe baza documentelor tale.

Pe această pagină

LLM Studio (fila Limbaj) specializează modele de limbaj mici cu exemplele tale. Cunoaștere indexează documentele tale pentru ca un model să răspundă pe baza lor (RAG). Ambele funcționează fără rețea, pe calculatorul tău.

Modele de bază locale

Un model de bază este un model deja antrenat pe care îl vei adapta. În Modele de bază locale le vezi pe cele din models/base al proiectului. Se încarcă doar în format safetensors, niciodată cu cod la distanță.

BazăUtilizare tipică
SmolLM2, Qwen2.5, Phi-3.5Generare și chat.
BERT multilingvClasificare și extragere de entități.
E5, MiniLMEmbeddings pentru căutare și RAG.

Descărcarea unui model de bază din catalog necesită ca proiectul să permită rețeaua (policies.allowNetwork: true) și aprobarea ta. Creează o bază minusculă creează un model foarte mic care se antrenează fără rețea pe orice CPU, ca să testezi fluxul.

text
models/
└── base/
    └── qwen2.5-0.5b-instruct/
        ├── config.json
        ├── model.safetensors
        └── tokenizer.json

Metode de ajustare fină

MetodăDateLa ce folosește
SFT (LoRA)JSONL cu messages sau prompt/completionÎl înveți să răspundă pe baza unor exemple. LoRA antrenează doar un adaptor mic.
DPOprompt, chosen, rejectedAliniere cu preferințe (răspuns bun față de unul prost).
ORPOprompt, chosen, rejectedPreferințe fără model de referință.
KTOprompt, completion, labelPreferințe neîmperecheate.
IPOPerechi de preferințeVariantă de DPO mai robustă la supraadaptare.
RLHFPreferințe umaneÎnvățare prin întărire cu feedback uman.
RLAIFPreferințele unui model evaluatorÎnvățare prin întărire cu feedback de la IA.
DistilareRăspunsurile unui model profesorTransferi ce știe un model mare către unul mic.
QLoRALa fel ca SFTModel de bază încărcat pe 4 biți, ca să antrenezi modele mai mari cu puțină VRAM.
Clasificator de texteCSV cu text și etichetăUn encoder care clasifică texte.

Un exemplu de date pentru SFT:

json
{"messages": [{"role": "user", "content": "¿Cómo reinicio mi contraseña?"},
              {"role": "assistant", "content": "Entra en Cuenta › Seguridad y pulsa «Cambiar contraseña»."}]}

QLoRA funcționează doar cu GPU NVIDIA și CUDA. Ajustarea unui LLM mic cu LoRA este posibilă pe CPU, dar lentă. Vezi Deep learning și GPU.

Ca la modelele tabulare, există curbe în timp real, pauză și reluare. La final poți folosi Îmbină adaptorul ca să ai un singur model.

Evaluare și guardrails

La finalul unei ajustări generative, Yuli pune singur în coadă o evaluare: perplexitatea (mai mică este mai bine), potrivirea exactă și F1 pe tokeni pe un set de întrebări, contaminarea (dacă întrebările erau în datele de antrenare) și viteza (Tokeni/s, Latență p95).

Guardrails-urile din manifest (llm.guardrails) blochează tipare și maschează datele personale la fiecare generare, atât în panoul Testează, cât și în serviciu.

Cuantizare

Cuantizează salvează ponderile cu mai puțini biți (int8, int4 sau GGUF), ca modelul să ocupe mai puțin și să meargă mai repede. Yuli aplică o poartă de calitate: compară modelul cuantizat cu originalul pe date pe care nu le-a văzut și nu acceptă niciodată o versiune care pierde calitate peste toleranță. Dacă nicio opțiune nu trece, lucrarea eșuează cu cifrele respective și nu se creează o versiune mai proastă.

Motor de inferență propriu

Serviciu local pornește un server propriu Yuli pe 127.0.0.1, compatibil cu API-ul OpenAI. Motorul de inferență Yuli încarcă safetensors, adaptoare LoRA, versiuni cuantizate, GGUF și ONNX fără să instalezi nimic în plus.

python
import os
from openai import OpenAI

# Schimbi doar base URL-ul. Cheia, dacă o folosești, vine dintr-o variabilă de mediu, niciodată din cod.
client = OpenAI(base_url="http://127.0.0.1:<puerto>/v1", api_key=os.environ["LOCAL_LLM_KEY"])
reply = client.chat.completions.create(
    model="soporte-es",
    messages=[{"role": "user", "content": "¿Dónde veo mi licencia?"}],
)
print(reply.choices[0].message.content)

Cunoaștere (RAG)

În Cunoaștere, Creează o bază de cunoștințe indexează un folder al proiectului (cu globuri pentru alegerea fișierelor) în fragmente. Folosește embeddings proprii Yuli, fără rețea, sau un model local, dacă îl indici.

CăutareCum găsește
HibridăCombină sensul și cuvintele. De obicei este cea mai bună opțiune.
VectoriDupă sens (embeddings).
Cuvinte (BM25)După potrivirea termenilor.

Căutarea explică de ce a urcat fiecare fragment. Calitatea regăsirii măsoară, pe un set de întrebări, dacă fragmentul corect apare printre primele (recall@k, MRR).

0 din 4 gata

Măsoară regăsirea înainte să dai vina pe model: dacă motorul de căutare nu găsește fragmentul, niciun LLM nu poate răspunde bine.

Următorul pas: Evaluare și modele.