Documentație / ML Studio
LLM Studio și RAG
Specializează modele de limbaj locale cu SFT, DPO, ORPO, KTO, QLoRA și altele, cuantizează-le cu poartă de calitate, servește-le local și răspunde pe baza documentelor tale.
Pe această pagină
LLM Studio (fila Limbaj) specializează modele de limbaj mici cu exemplele tale. Cunoaștere indexează documentele tale pentru ca un model să răspundă pe baza lor (RAG). Ambele funcționează fără rețea, pe calculatorul tău.
Modele de bază locale
Un model de bază este un model deja antrenat pe care îl vei adapta. În Modele de bază locale le vezi pe cele
din models/base al proiectului. Se încarcă doar în format safetensors, niciodată cu cod la distanță.
| Bază | Utilizare tipică |
|---|---|
| SmolLM2, Qwen2.5, Phi-3.5 | Generare și chat. |
| BERT multilingv | Clasificare și extragere de entități. |
| E5, MiniLM | Embeddings pentru căutare și RAG. |
Descărcarea unui model de bază din catalog necesită ca proiectul să permită rețeaua (policies.allowNetwork: true)
și aprobarea ta. Creează o bază minusculă creează un model foarte mic care se antrenează fără rețea pe orice CPU,
ca să testezi fluxul.
models/
└── base/
└── qwen2.5-0.5b-instruct/
├── config.json
├── model.safetensors
└── tokenizer.jsonMetode de ajustare fină
| Metodă | Date | La ce folosește |
|---|---|---|
| SFT (LoRA) | JSONL cu messages sau prompt/completion | Îl înveți să răspundă pe baza unor exemple. LoRA antrenează doar un adaptor mic. |
| DPO | prompt, chosen, rejected | Aliniere cu preferințe (răspuns bun față de unul prost). |
| ORPO | prompt, chosen, rejected | Preferințe fără model de referință. |
| KTO | prompt, completion, label | Preferințe neîmperecheate. |
| IPO | Perechi de preferințe | Variantă de DPO mai robustă la supraadaptare. |
| RLHF | Preferințe umane | Învățare prin întărire cu feedback uman. |
| RLAIF | Preferințele unui model evaluator | Învățare prin întărire cu feedback de la IA. |
| Distilare | Răspunsurile unui model profesor | Transferi ce știe un model mare către unul mic. |
| QLoRA | La fel ca SFT | Model de bază încărcat pe 4 biți, ca să antrenezi modele mai mari cu puțină VRAM. |
| Clasificator de texte | CSV cu text și etichetă | Un encoder care clasifică texte. |
Un exemplu de date pentru SFT:
{"messages": [{"role": "user", "content": "¿Cómo reinicio mi contraseña?"},
{"role": "assistant", "content": "Entra en Cuenta › Seguridad y pulsa «Cambiar contraseña»."}]}QLoRA funcționează doar cu GPU NVIDIA și CUDA. Ajustarea unui LLM mic cu LoRA este posibilă pe CPU, dar lentă. Vezi Deep learning și GPU.
Ca la modelele tabulare, există curbe în timp real, pauză și reluare. La final poți folosi Îmbină adaptorul ca să ai un singur model.
Evaluare și guardrails
La finalul unei ajustări generative, Yuli pune singur în coadă o evaluare: perplexitatea (mai mică este mai bine), potrivirea exactă și F1 pe tokeni pe un set de întrebări, contaminarea (dacă întrebările erau în datele de antrenare) și viteza (Tokeni/s, Latență p95).
Guardrails-urile din manifest (llm.guardrails) blochează tipare și maschează datele personale la fiecare
generare, atât în panoul Testează, cât și în serviciu.
Cuantizare
Cuantizează salvează ponderile cu mai puțini biți (int8, int4 sau GGUF), ca modelul să ocupe mai puțin și să meargă mai repede. Yuli aplică o poartă de calitate: compară modelul cuantizat cu originalul pe date pe care nu le-a văzut și nu acceptă niciodată o versiune care pierde calitate peste toleranță. Dacă nicio opțiune nu trece, lucrarea eșuează cu cifrele respective și nu se creează o versiune mai proastă.
Motor de inferență propriu
Serviciu local pornește un server propriu Yuli pe 127.0.0.1, compatibil cu API-ul OpenAI. Motorul de inferență
Yuli încarcă safetensors, adaptoare LoRA, versiuni cuantizate, GGUF și ONNX fără să instalezi nimic în
plus.
import os
from openai import OpenAI
# Schimbi doar base URL-ul. Cheia, dacă o folosești, vine dintr-o variabilă de mediu, niciodată din cod.
client = OpenAI(base_url="http://127.0.0.1:<puerto>/v1", api_key=os.environ["LOCAL_LLM_KEY"])
reply = client.chat.completions.create(
model="soporte-es",
messages=[{"role": "user", "content": "¿Dónde veo mi licencia?"}],
)
print(reply.choices[0].message.content)Cunoaștere (RAG)
În Cunoaștere, Creează o bază de cunoștințe indexează un folder al proiectului (cu globuri pentru alegerea fișierelor) în fragmente. Folosește embeddings proprii Yuli, fără rețea, sau un model local, dacă îl indici.
| Căutare | Cum găsește |
|---|---|
| Hibridă | Combină sensul și cuvintele. De obicei este cea mai bună opțiune. |
| Vectori | După sens (embeddings). |
| Cuvinte (BM25) | După potrivirea termenilor. |
Căutarea explică de ce a urcat fiecare fragment. Calitatea regăsirii măsoară, pe un set de întrebări, dacă fragmentul corect apare printre primele (recall@k, MRR).
Măsoară regăsirea înainte să dai vina pe model: dacă motorul de căutare nu găsește fragmentul, niciun LLM nu poate răspunde bine.
Următorul pas: Evaluare și modele.